inflearn-tech·문제플랫폼 성장으로 스팸 게시글이 늘면서 운영팀의 수작업 부담이 커졌고, GPT 단독 필터링은 새로운 패턴·다국어 대응이 느렸다.
접근TfidfVectorizer 와 SGDClassifier 로 학습한 머신러닝 모델을 AWS Lambda 에 배포하고, ChatGPT API 를 결합해 새 유형·다국어 스팸을 보조 탐지하게 했다. 특징 추출은 Zero Shot With Auto Generate Prompt 기법으로 자동화했다.
결과스팸 계정 생성 요청이 76% 감소했고, 게시글당 판정 비용은 0.05원, 모델 추론 시간은 0.2~0.6ms 수준으로 떨어졌다.
AWS Korea·문제콘텐츠 번역가 10만 명을 자연어로 검색하려면 BM25 키워드와 벡터 의미 검색을 동시에 잘 다뤄야 한다. 기존 PostgreSQL 검색은 nDCG@10 0.90 목표에 미달.
접근Amazon OpenSearch Service 로 이전하면서 Nori 한국어 형태소 분석기 + 다국어 임베딩 + Bedrock Cohere/Claude 로 데이터 정제 파이프라인 구축. 단일 쿼리에서 키워드와 벡터를 결합.
결과nDCG@10 0.90 이상 달성. 표준 어휘 사전과 별칭 매핑으로 이력서 데이터 일관성도 확보.
베스핀글로벌·문제AI 할루시네이션은 모델이 아니라 데이터 파이프라인 결함의 결과. PoC 에서 90% 정확도였던 모델이 프로덕션에서 실패하는 이유.
접근3 레이어 구조: 입력단 AI 기반 자동 품질 감시 → 거버넌스 레이어로 출처·흐름·접근 추적 → 출력단 AI-on-AI 자동 검증. 검색 품질이 답변 정확도를 좌우하므로 맥락 기반 청킹·멀티모달 임베딩·하이브리드 검색·리랭킹 네 기법 적용.
결과단일 플랫폼 도입이나 벡터 DB 구축만으론 부족함을 명확히 한 실전 검증 패턴. 도메인별 맥락을 잃지 않는 데이터 파이프라인이 진짜 해법.
무신사 테크·