문제콘텐츠 번역가 10만 명을 자연어로 검색하려면 BM25 키워드와 벡터 의미 검색을 동시에 잘 다뤄야 한다. 기존 PostgreSQL 검색은 nDCG@10 0.90 목표에 미달.

접근Amazon OpenSearch Service 로 이전하면서 Nori 한국어 형태소 분석기 + 다국어 임베딩 + Bedrock Cohere/Claude 로 데이터 정제 파이프라인 구축. 단일 쿼리에서 키워드와 벡터를 결합.

결과nDCG@10 0.90 이상 달성. 표준 어휘 사전과 별칭 매핑으로 이력서 데이터 일관성도 확보.

문제AI 할루시네이션은 모델이 아니라 데이터 파이프라인 결함의 결과. PoC 에서 90% 정확도였던 모델이 프로덕션에서 실패하는 이유.

접근3 레이어 구조: 입력단 AI 기반 자동 품질 감시 → 거버넌스 레이어로 출처·흐름·접근 추적 → 출력단 AI-on-AI 자동 검증. 검색 품질이 답변 정확도를 좌우하므로 맥락 기반 청킹·멀티모달 임베딩·하이브리드 검색·리랭킹 네 기법 적용.

결과단일 플랫폼 도입이나 벡터 DB 구축만으론 부족함을 명확히 한 실전 검증 패턴. 도메인별 맥락을 잃지 않는 데이터 파이프라인이 진짜 해법.

문제RAG 애플리케이션의 한국어 검색에서 벡터 검색만으론 고유명사·전문용어 누락과 조사 변화 매칭에 약하다.

접근Aurora PostgreSQL 에서 pg_bigm(바이그램 키워드 검색)과 pgvector(벡터 시맨틱 검색)를 RRF(Reciprocal Rank Fusion)로 결합한 하이브리드 검색을 구성.

결과두 방식의 약점이 상호 보완되어 한국어 RAG 의 검색 품질이 개선. 키워드·의미 검색을 한 DB 안에서 통합 운용 가능.

문제대량의 개발 문서 검색에 시간이 많이 들고, 사내 전문가 상담도 비효율적이다.

접근Swift Evolution 문서를 ChromaDB 벡터 DB로 구축한 뒤, 에이전트 스킬로 MCP 도구 사용을 간소화. 자연어 검색으로 코딩 에이전트가 자동 문서 참조.

결과코드 생성/리뷰 프로세스가 개선됐고, 1,000명 이상이 참여한 전사 워크숍으로 실무 적용을 확산.

문제코드만 보고 의미 있는 테스트를 자동 생성하기는 어렵다. LLM 에 맡기면 hallucination 으로 부정확한 케이스를 만든다.

접근무신사가 Gemini API 로 테스트 케이스 자동 생성을 시도하면서 실패 패턴 정리. 도메인 컨텍스트 + RAG 로 코드 외부 지식을 주입해 품질을 끌어올림.

결과단순 코드 변환 한계를 인정하고, 컨텍스트 강화로 의미 있는 테스트 비율 개선. LLM 기반 테스트 자동화의 현실적 한계와 패턴 정리.

문제상품 후기 10만 개를 사용자가 다 읽을 수 없다. 의미 있는 부분만 골라 보여줘야 구매 결정에 도움이 된다.

접근무신사가 LLM 으로 후기를 요약. 긍정/부정 의견 분리, 핵심 사이즈/품질 포인트 추출, 환각/허위 정보 가드레일 적용.

결과구매 전 의사결정 시간 단축 + 사이트 체류 효과 동시 확보. e-commerce LLM 적용의 실전 사례.

문제LY Corporation 사내 클라우드 Flava 의 AI 어시스턴트는 27개 제품과 260+ API, 수백 페이지 문서를 다뤄야 한다. 프롬프트 엔지니어링만으로는 LLM 이 적절한 응답을 만들지 못한다.

접근컨텍스트 엔지니어링으로 전환. "어떻게 답하라" 지침 대신 "지금 상황에 맞는 정보" 를 선별해 전달하는 데 집중한다. 툴/문서를 분류·요약·랭킹해 LLM 입력 윈도우에 들어갈 핵심 컨텍스트만 구성한다.

결과엔터프라이즈 LLM 앱 설계의 1차 의사결정 축을 정립했다. 다음 편에선 에이전트 엔지니어링(파인튜닝 vs 에이전틱 워크플로)으로 이어진다.

문제카카오페이가 제공하는 결제·송금·자산관리 등 서비스가 다양하지만, 사용자가 필요한 순간에 적절한 서비스를 떠올리고 찾기는 어렵다.

접근사용자의 위치·시간·이용 기록을 분석해 능동적으로 서비스를 추천하는 AI 컨시어지 "페이지니" 를 개발. AWS Bedrock 기반 멀티 에이전트가 "전체 서비스 추천" 과 "가맹점 혜택 추천" 을 분담하고, STT · TTS · RAG · 프롬프트 엔지니어링을 조합한다.

결과검색이 아닌 능동적 발견 경험을 제공한다. 멀티 에이전트 구조로 새로운 추천 도메인을 모듈처럼 확장할 수 있게 설계.

문제대출 시장의 정보 불균형 때문에 사용자는 자기 상황에 맞는 상품을 알아보는 과정 자체에 불안감을 느낀다. 기존 챗봇은 "무엇을 묻고 무엇을 결정할지" 까지 도와주지 못한다.

접근AWS Bedrock 의 Knowledge Base 와 Agent 답변 지침으로 할루시네이션을 억제하면서 RAG 기반 "AI 대출 코치" 를 1박 2일 해커톤에서 구현. 사용자 상황을 단계별로 묻고 의사결정을 가이드한다.

결과대출 과정의 불확실성을 줄여 사용자가 주체적으로 선택할 수 있게 돕는다. 짧은 해커톤 안에서도 LLM 의 정확도와 UX 를 동시에 잡는 패턴을 정리.

문제비대면 대출은 정보 비대칭과 의사결정 부담이 커서, 사용자가 자기 상황에 맞는 상품을 직접 찾기 어렵다. 텍스트 챗봇만으로는 상담 부재 문제를 해결하지 못한다.

접근Amazon Transcribe · Bedrock · Polly 로 음성 입력 → 텍스트 변환 → 응답 생성 → 음성 합성 파이프라인을 구축. 개인정보 이슈를 피하려 합성 데이터를 만들고, RAG 로 맞춤형 대출 상품 추천을 강화한다.

결과비대면 환경에서도 음성 기반 1:1 상담 경험을 구현했다. AWS AI 서비스 조합으로 금융 도메인에 맞는 생성형 AI 활용 패턴을 정리.

문제금융 기관들이 비정형 데이터 처리, 시장 분석 자동화, 감정 분석에서 생성형 AI 도입 어려움.

접근AWS Bedrock + SageMaker + RAG + 멀티 에이전트 합의 방식 + GenAIOps 방법론으로 금융 특화 AI 서비스 구축.

결과브릿지워터 3조 원 규모 AI 펀드 출시. MUFG 업무 효율성 10배 + 전환율 30%↑. Crypto.com 감정분석 정확도 90%↑.

문제카카오페이증권에서 산재된 내부 정보를 효율적으로 검색하고 외부 AI 도구 사용이 제한되어 대체 솔루션 필요.

접근Amazon Bedrock Claude 모델 + RAG(검색증강생성) + PGVector 벡터 DB + LangChain 으로 "춘시리" 멀티플랫폼 챗봇 구축.

결과슬랙 / 아지트 / 깃헙에서 위키 검색, 코드리뷰, 주간보고 자동화 제공. 주간 보고 작성 과정 효율화로 크루들의 시간·노력 절감.