보안 업무를 위한 AI 에이전트 플랫폼 「SAGE」 개발기 1편: 판단은 사람에게 남기는 설계

LY Corporation Security Development Division이 보안 업무용 AI 에이전트 플랫폼 SAGE의 개발 과정을 공개했다. "완전 자동화"와 "도입 미루기" 양 극단 사이에서 "판단은 사람에게 남기는 설계"를 핵심 원칙으로 삼고, 3단계 점진적 도입 전략(AI 보조→에이전트 협업→자동화)을 채택했다. 현재는 1단계를 중심으로 파일럿·실운영 중이다.

핵심 포인트

범용 챗봇 대신 보안 상담·운영 안내·분석 워크벤치 등 업무 유형별로 워크플로를 분리해 안정성을 높였다.
Langflow 기반 멀티 에이전트 파이프라인으로 의도 분류→근거 수집→답변 형식화→담당자 검토 5단계를 자동화했다.
MCP(Model Context Protocol)로 Confluence·Jira·Slack 등 분산 문서를 실시간 대조해 검증된 인용만 노출한다.
AI는 확정 판단("가능/불가능")을 절대 내리지 않고, 블록 구조(먼저 볼 점·리스크·판단 관점·누락 정보·참고 근거)로만 제안한다.
주간 피드백 루프로 운영 담당자 의견을 한 줄 정책 규칙으로 자동 반영하는 자가개선 구조를 적용했다.

상세 정리

문제 배경: 보안 상담에 필요한 규정·유사 사례·운영 노하우가 Confluence·Jira·Slack에 분산돼 있고, 담당자 숙련도에 따라 답변 품질·소요 시간 편차가 컸다.
설계 철학: 3단계 점진적 도입을 정의하고 현재는 1단계(AI 판단 준비, 최종 판단은 사람)에 집중해 AI 과신 리스크를 최소화했다.
진입점 1(Jira 보안 상담 어시스턴트): 파일럿 운영 중. 복잡한 보안 상담의 1차 정리·근거 수집을 자동화. 5단계 멀티 에이전트 워크플로 적용. 복잡도(간단/보통/복잡)별로 답변 깊이를 조절하고, "가능/불가능" 확정 표현을 출력 정책으로 금지한다.
진입점 2(Slack 운영 안내 어시스턴트): 실운영 중. 2단계 검증(근거 패킷 수집→규정 검증)으로 표면 증상과 실제 원인을 분리해 안내문을 생성한다. 주간 피드백 루프로 개선 가이드를 정책 규칙으로 자동 반영한다.
진입점 3(보안 분석 워크벤치, 웹): 담당자가 직접 실행하는 4개 워크플로 제공 — 기밀성 구분 판정·유사 사례 검색·규정·프로세스 안내·협력사 보안 준수 체크.
기술 스택: Langflow(AI 오케스트레이션), GPT 계열(생성 모델), Langfuse(관찰성·로깅), MCP(외부 시스템 연동), OpenSearch+Embedding(벡터 검색), FastAPI(백엔드), htmx(웹 UI).
검색 품질 교훈: 모델 성능보다 규정·가이드·사례 문서의 구조화 품질이 RAG 답변 품질을 더 크게 좌우했다.
정보 부족 시 단정 금지: 검증 불가 상황에서는 "판단 불가"를 명시하고 필요 정보를 제시하는 출력 정책을 명문화했다.