AI / ML·
엔카닷컴·
RAG 없이 20만 대 자동차와 실시간으로 대화하기 (2)
20만 대 중고차 챗봇에서 RAG를 쓰니 벡터 DB 동기화 지연으로 유령 매물·정보 누락이 생기고 비용도 컸으며, 실시간성이 중요한 거래 도메인에 맞지 않았다.
#llm#asyncio#server-sent-events+2
20만 대 중고차 챗봇에서 RAG를 쓰니 벡터 DB 동기화 지연으로 유령 매물·정보 누락이 생기고 비용도 컸으며, 실시간성이 중요한 거래 도메인에 맞지 않았다.
개발 경험이 없는 디자이너·기획자가 자기 업무 문제를 직접 자동화하기 어렵고, AI 도구를 외부 API 문서만 보고 쓸 때 정확도와 속도가 모두 떨어졌다.
엔카닷컴이 차량 사진 분류·외관 손상 탐지 같은 AI 모델과 LLM 기반 신규 서비스 아이디어를 외부 인재와 함께 발굴할 채널이 필요했다.
자동차 상세 페이지 챗봇의 추천질문이 정적 규칙 기반이라 대화 맥락·차량 세부 정보를 반영하지 못했다.
RAG 기반 벡터 DB는 하루 수천 건의 차량 거래·가격 변동을 실시간 반영하지 못해 이미 판매된 차량을 추천하는 유령 차량 문제가 발생했다.