watcha·문제왓챠의 EC2 기반 ML 파이프라인은 자원 관리가 비효율적이고 환경 일관성 유지가 어려웠다. GPU 인스턴스 확보가 불안정했고 연구원 실험 환경도 빈약했다.
접근Docker와 Kubernetes로 작업별 독립 실행 환경을 만든다. On-premise GPU 서버를 도입해 학습 자원을 안정적으로 확보하고, S2S VPN으로 AWS와 연동했다. Argo Workflow로 파이프라인을 자동화하고 JupyterHub로 실험 환경을 제공했다.
결과파이프라인의 각 작업이 원하는 자원과 환경으로 독립 실행되도록 만들었다. 자원 효율과 연구원 실험 만족도가 함께 올라갔다.
AWS Korea·문제콘텐츠 번역가 10만 명을 자연어로 검색하려면 BM25 키워드와 벡터 의미 검색을 동시에 잘 다뤄야 한다. 기존 PostgreSQL 검색은 nDCG@10 0.90 목표에 미달.
접근Amazon OpenSearch Service 로 이전하면서 Nori 한국어 형태소 분석기 + 다국어 임베딩 + Bedrock Cohere/Claude 로 데이터 정제 파이프라인 구축. 단일 쿼리에서 키워드와 벡터를 결합.
결과nDCG@10 0.90 이상 달성. 표준 어휘 사전과 별칭 매핑으로 이력서 데이터 일관성도 확보.
베스핀글로벌·문제AI 할루시네이션은 모델이 아니라 데이터 파이프라인 결함의 결과. PoC 에서 90% 정확도였던 모델이 프로덕션에서 실패하는 이유.
접근3 레이어 구조: 입력단 AI 기반 자동 품질 감시 → 거버넌스 레이어로 출처·흐름·접근 추적 → 출력단 AI-on-AI 자동 검증. 검색 품질이 답변 정확도를 좌우하므로 맥락 기반 청킹·멀티모달 임베딩·하이브리드 검색·리랭킹 네 기법 적용.
결과단일 플랫폼 도입이나 벡터 DB 구축만으론 부족함을 명확히 한 실전 검증 패턴. 도메인별 맥락을 잃지 않는 데이터 파이프라인이 진짜 해법.
무신사 테크·