교보DTS

AI 에이전트를 규칙·도구·검증 체계 없이 운영하면 일관성 부족, 보안 리스크, 팀 확장의 어려움이 발생한다.

CI/CD 파이프라인에서 배포 실패 시 원인 분석을 사람이 직접 해야 해 MTTR이 1~2시간에 달했다.

수백만 대 IoT 디바이스를 안전하게 연결하고 데이터 흐름까지 관리하는 인프라 설계가 복잡했다.

LLM 의 환각은 벡터 기반 RAG 의 의미 유사도만으로는 통제하기 어렵고, 다단계 추론과 명시적 관계가 필요한 도메인에서는 정확도가 떨어진다.

Amazon EKS 운영자가 CloudWatch 에 쌓인 대량 애플리케이션 로그를 수동으로 분석하면 장애 원인/영향 범위/대응 방안 파악이 느리다.

RAG 시스템은 검색 불완전성과 LLM 확률 생성이 겹쳐 금융·의료 같은 신뢰 영역에서 할루시네이션 통제가 어려웠다.

디지털 안에서만 동작하던 기존 AI는 실제 물리 세계에서 직접 인식·판단·행동하지 못해 산업·노동 현장 적용에 한계가 컸다.

AI 에이전트가 챗봇을 넘어 실행자가 되는 순간 권한 증폭기로 변하면서 PII 유출, 권한 확대, 자율 실행 위험 등 새로운 보안 면이 생긴다.

LLM이 실제 서비스에 깊이 들어오면서 정책·로직·예외가 모두 프롬프트에 쌓여 누구도 손대기 싫은 블랙박스가 됐고, 프롬프트는 토큰 예측 힌트일 뿐 시스템 수준의 일관된 제어를 보장하지 못했다.

Agentic AI를 도입할 때 단순히 많은 도구를 붙이면 토큰 낭비와 일관성 저하만 발생하고, 사람·LLM·Tool의 역할 경계가 흐려진다.