AI service마다 data 정제·GPU 학습·평가·serving·monitoring·agent를 따로 구축하면 model 개발보다 infrastructure에 시간이 쏠린다. 카카오는 이 공통 AIOps를 하나로 묶은 Kakao AI Platform(KAP)으로 개발자가 핵심 문제에 집중하고 검증된 흐름을 재사용하게 만든다.
핵심 포인트- KAP을 Store·Training·Serving·Agent 네 영역으로 구성해, 학습 data→catalog model→deployment→application까지 artifact가 단계별로 이어지고 각 기능을 UI·API로 제공
- Store는 대용량 file 공유에 그치지 않고 작성자·출처·license·AI safety 검토·version을 기록해 artifact 책임·사용 범위를 추적하고, Training이 복사 없이 같은 artifact를 직접 참조해 lineage 단절 방지
- Training은 자유로운 SSH GPU instance와 자동 pipeline으로 fine-tuning·evaluation·hyperparameter 실험을 반복하고, 통과한 model은 API·autoscaling·log/metric dashboard를 갖춘 Serving으로 배포
- Agent builder에서 knowledge base RAG·prompt·function tool을 no-code/API로 조합해 web·chat·API로 배포하고, 사내 portal·전자결재와 Kakao service가 같은 module을 재사용
왜 읽나여러 AI service의 data·학습·serving·agent를 매번 새로 조립하는 조직에게, provenance·safety를 보존하며 개발을 가속하는 통합 AI platform의 설계 방향을 제시한다.