카카오클라우드 MLOps 활용 방안 소개

다양한 source에서 data를 수집·정제해 data lake에 저장하는 DataOps 흐름과, 준비된 data로 model을 개발·학습·평가·serving하고 성능을 관찰하는 ML 흐름을 구분한다. pipeline 자동화와 model version 관리, 평가에 따른 교체 정책을 더해 두 영역이 반복 가능한 하나의 운영 cycle을 이룬다.

실시간·batch 수집에는 Kafka와 ingestion service, 저장에는 Object Storage, 정제·catalog에는 data platform을 배치한다. 분석과 ML 영역은 query engine, Kubeflow component, model registry와 KServe를 연결해 각 lifecycle 단계의 역할을 managed service로 mapping하고 사용자가 필요한 조합을 선택하게 한다.

외부와 내부 source의 stream을 Kafka로 안정적으로 수집해 Object Storage에 보관하고, metadata와 품질을 관리한 뒤 분석 가능한 형태로 변환한다. notebook과 Kubeflow pipeline에서 학습·tuning을 실행하고 최적 model을 registry에 기록한 다음 KServe endpoint로 배포해 동일한 flow를 재현 가능하게 만든다.

load balancer access log를 Druid에서 실시간 집계하고 Superset으로 실제 traffic과 예측값을 함께 시각화한다. Kubeflow가 model 개발·학습·hyperparameter tuning을 자동 실행하고 최근 7일 data로 기존 model과 비교 평가한다. 새 model이 더 나을 때만 KServe 배포와 registry version을 교체해 품질 저하를 막는다.