naver-place·문제한정된 GPU를 큰 모델 학습에 쓰려고 작은 모델들을 CPU 서빙으로 옮겼더니, 초기엔 처리량 10배 저하·응답 10배 지연이 발생했다.
접근PyTorch 스레드를 물리 코어 수에 맞춰 잡고, IPEX(Intel Extension for PyTorch)로 코어 피닝을 적용한다. Knowledge Distillation from A Stronger Teacher 기법으로 정확도를 유지하며 모델을 경량화한다.
결과음식 분류기 2.5→84 RPS(약 34배), 이미지 점수 측정기 2.1→62 RPS(약 30배)로 회복했다. 연 4억 원, GPU 30개를 절감했다.
AWS Korea·문제콘텐츠 번역가 10만 명을 자연어로 검색하려면 BM25 키워드와 벡터 의미 검색을 동시에 잘 다뤄야 한다. 기존 PostgreSQL 검색은 nDCG@10 0.90 목표에 미달.
접근Amazon OpenSearch Service 로 이전하면서 Nori 한국어 형태소 분석기 + 다국어 임베딩 + Bedrock Cohere/Claude 로 데이터 정제 파이프라인 구축. 단일 쿼리에서 키워드와 벡터를 결합.
결과nDCG@10 0.90 이상 달성. 표준 어휘 사전과 별칭 매핑으로 이력서 데이터 일관성도 확보.
베스핀글로벌·문제AI 할루시네이션은 모델이 아니라 데이터 파이프라인 결함의 결과. PoC 에서 90% 정확도였던 모델이 프로덕션에서 실패하는 이유.
접근3 레이어 구조: 입력단 AI 기반 자동 품질 감시 → 거버넌스 레이어로 출처·흐름·접근 추적 → 출력단 AI-on-AI 자동 검증. 검색 품질이 답변 정확도를 좌우하므로 맥락 기반 청킹·멀티모달 임베딩·하이브리드 검색·리랭킹 네 기법 적용.
결과단일 플랫폼 도입이나 벡터 DB 구축만으론 부족함을 명확히 한 실전 검증 패턴. 도메인별 맥락을 잃지 않는 데이터 파이프라인이 진짜 해법.
무신사 테크·