우아한형제들 AI PM이 하는 일 #우아콘2025 #우아한형제들

우아한테크·우아콘 2025 2025·7개월 전·

#voice-ai#rag#ai-agent#context-engineering#ai-product-management#multimodal-ai

AI 요약

Product roadmap의 최종 결정자였던 PM이 기술 조직의 AI PM으로 옮겨, model·tool을 지속 평가하고 협업 조직에 기술 자문을 주며 ideation·context engineering·POC를 수행하는 역할 변화를 소개한다. 여러 사례로 정확도·latency·cost·security를 비교해 production 가능 시점을 판단하는 법을 보여준다.

핵심 포인트

사용량 적고 정확도·속도가 중요한 사장님 answer bot은 GPT-4+RAG, 월 100만 호출 예상 menu-name filtering은 cost 우위의 Gemini 2.5 Flash로 나누고, example selector로 정확도를 92%→98%로 올린 뒤 Langfuse로 version별 품질·속도·비용 비교
Cursor 데모에서 chef agent가 marketing scenario·intent를 구성하고 segment agent가 자연어를 OpenSearch query로 바꿔 Buzz API를 호출하며, 두 agent가 A2A로 협력해 segment 생성까지 완료
store image로 광고 video를 만드는 4모듈 pipeline은 Sora·Veo를 교체하며 발전을 추적했으나 한식의 비현실적 생성·깨지는 한글 자막으로 아직 production 미달로 판단, voice bot도 개인정보·인증·암호화 위험을 선제 검토

왜 읽나AI 제품을 model 선택부터 평가·보안·production 판단까지 끌고 가야 하는 PM에게, vibe coding 산출물은 POC 설득용이고 실서비스는 engineer가 다시 설계한다는 경계까지 담은 역할 지도.

챕터별 상세

010:48 – 6:34

Product PM에서 AI PM으로 바뀐 역할

GPT가 click 기반 product를 대화형 interface와 API 중심 생태계로 바꿀 것이라 보고 기존 targeting product를 떠나 AI 조직으로 이동한 배경을 설명한다. Product 방향의 최종 결정자에서 협업 부서에 기술 자문을 제공하는 역할로 바뀌면서 data scientist의 언어와 ML·LLM을 공부하고, 최신 model·platform을 직접 시험해 ideation, POC와 context engineering까지 PM의 실행 범위를 넓혔다.

사용량이 적지만 정확도와 속도가 중요한 사장님 answer bot은 GPT-4와 RAG로 official content를 답하게 하고, 월 100만 호출이 예상되는 menu-name filtering은 cost 우위의 Gemini 2.5 Flash를 선택했다. FAQ model 뒤에 category RAG와 전체-document RAG를 두는 fallback, 정책 판단은 prompt로 즉시 바꾸는 LLM과 교정 이름을 빠르게 만드는 ML의 조합을 설계하고, example selector로 정확도를 92%에서 98%로 올린 뒤 Langfuse로 version별 품질·속도·비용을 비교했다.

AI news와 model을 주기적으로 research한 뒤 기술 품질, resource와 전사 방향으로 아이디어를 선별하고, 외부 사례뿐 아니라 사내 wiki의 구체적인 pain point에서 빠르게 검증할 과제를 찾는다. Cursor로 만든 demo에서는 chef agent가 customer feature로 marketing scenario와 intent를 구성하고 segment agent가 자연어 대상을 OpenSearch query로 바꿔 Buzz API를 호출하며, 두 agent가 A2A로 협력해 segment 생성까지 완료한다.

Store 이름과 image를 입력하면 image analysis, video prompt 생성, video model 호출과 narration 후처리를 순서대로 수행하는 네 module pipeline을 만들어 category와 image 특성마다 사람이 prompt를 쓰는 작업을 자동화했다. Sora와 Veo 계열 model을 동일 pipeline에서 교체해 발전을 추적한 결과 일부 자연스러운 BGM과 motion을 얻었지만, 한식 image의 비현실적 생성과 깨지는 한글 자막 때문에 아직 production 수준은 아니라고 판단했다.

Voice RAG와 tone 기반 emotion classification이 분기 사이에 크게 개선된 것을 확인하고, 즉시 할인 guide만 제공한 voice bot이 사장님에게 상품을 설명하고 업종별 할인 방식을 상담하는 demo를 구현했다. 동시에 음성의 개인정보·card data 위험, authentication과 encryption, 민감 발화 금지 policy를 선제적으로 검토하며 production 시점을 예측하고, vibe coding 산출물은 POC 설득에는 유용하지만 실제 service에서는 engineer가 다시 설계·구현해야 한다는 경계를 분명히 한다.