AgentFlo는 Amazon Bedrock AgentCore와 AWS 서버리스 서비스를 결합해 연간 3,000억 달러 규모의 거래를 처리하는 AI 영업 에이전트 플랫폼을 프로덕션에 배포했다. 이 글은 시리즈 2편으로, 예측 불가능한 트래픽 급증과 자율 커머스 운영에서의 신뢰 구축 문제를 다룬다.
핵심 포인트- 3단계 보안 모델(사전 방어 → AgentCore Gateway Cedar 정책 → 사후 출력 필터링)로 에이전트가 비즈니스 규칙을 우회하지 못하도록 강제한다
- DynamoDB 2테이블 설계(대화 이력 / 장바구니)로 각 턴마다 최근 15개 메시지를 로드해 다일 단위 고객 여정을 유지한다
- Aurora 벡터 임베딩으로 "핑크색 제품", "가장 작은 것" 같은 자연어 설명을 실제 제품에 매핑한다
- Fargate + AgentCore로 일반 트래픽 대비 50배 플래시 세일 급증을 사전 프로비저닝 없이 처리한다
- 90일 시험 배포 결과: 순매출 +12%, 전환율 +15%, 평균 주문 금액 +8%, 고객 재활성화 +20%
상세 정리- 보안 1단계(Pre-Request): AWS Fargate가 프롬프트 인젝션 탐지와 옵트아웃 처리를 에이전트 도달 전에 수행한다. WhatsApp 전화번호 같은 고유 식별자로 신원 검증도 이 단계에서 처리한다.
- 보안 2단계(AgentCore Gateway): Cedar 정책이 모델 추론과 독립적으로 도구 접근을 강제한다. "모델이 제안하고, 결정론적 정책이 결정한다"는 원칙으로 에이전트가 비즈니스 규칙을 스스로 변경하지 못하게 한다.
- 보안 3단계(Post-Response): 출력 필터가 자격증명 노출과 미검증 가격 정보를 차단한다. microVM 세션 격리, IAM 접근 제어, VPC 통합이 인프라 보안 레이어를 구성한다.
- 세션 관리: DynamoDB 2테이블 구조로 각 턴 시작 시 최근 15개 메시지를 로드한다. 며칠에 걸친 고객 여정에서 컨텍스트를 유실 없이 유지하는 핵심이다.
- 지식 기반: 판매자가 S3 기반 Amazon Bedrock Knowledge Bases에 비즈니스 콘텐츠를 업로드하면 에이전트가 최신 정확한 정보를 근거로 추론한다. 별도의 수동 프롬프트 엔지니어링 없이 동작한다.
- 시맨틱 검색: Aurora 벡터 임베딩이 "핑크색", "가장 작은 것" 같은 자연어 표현을 실제 제품 항목으로 변환한다.
- 확장성: Fargate와 AgentCore가 최대 50배 트래픽 급증을 사전 프로비저닝 없이 처리한다. SaaS 커스터마이징 레이어를 공유 AgentCore 인프라 위에 얹어 여러 판매자가 사용한다.
- 미래 로드맵 — 음성: BidiAgent로 양방향 오디오 스트리밍과 통화 중 도구 동시 실행을 지원한다. 현재는 WhatsApp 음성 메모를 2단계(초벌 전사 → 도메인 보정) 전사 처리 중이다.
- 미래 로드맵 — 서버사이드 실행: Bedrock Responses API + AgentCore Gateway ARN 단일 호출로 반복적 에이전트-도구 루프를 대체한다. 초기 측정에서 약 30% 레이턴시 감소를 확인했다.
- 7가지 설계 원칙: 요건 우선 서비스 선택, 전문 단일 에이전트 > 멀티 에이전트, 첫날부터 세션 상태 설계, 3단계 보안, SaaS 레이어 분리, 서버리스 탄력성, 대화 피드백 루프 개선이다.
왜 읽나Amazon Bedrock AgentCore로 커머스 AI 에이전트를 프로덕션 규모로 배포하는 보안·확장성·세션 설계 패턴이 필요한 백엔드·AI 엔지니어에게 실전 레퍼런스가 된다.
AWS Architecture·
데보션 (SK)·
AITRICS·
무신사 테크·