"알아서 정확하게 응답줬으면.." RAG부터 에이전트까지 사내 AI 챗봇 구축기 2부

문제초기 RAG 챗봇이 복잡한 질문에서 맥락을 다 검색하지 못하고 여러 테이블을 혼합한 잘못된 SQL을 생성했으며, 대화 컨텍스트도 유지하지 못했다.

접근소스코드만 적재해 동기화 문제를 줄이고, 메타데이터 다층 검색·기술용어 사전·구조화 응답 포맷·Few-Shot 프롬프트로 정확도를 올린 뒤, AWS Bedrock Agents로 마이그레이션해 SQL 검증·Few-Shot 저장·Slack 알림을 Action Group으로 위임하고 CloudWatch로 추론을 추적했다.

결과월 약 310회 질문에 응답하는 사내 보조 시스템으로 안착했고, 관리형 서비스로 빠르게 MVP를 검증한 뒤 점진 고도화하는 패턴이 효과적이라는 결론을 정리했다.