AI 시대, 서비스 보안 담당자는 어떤 고민들을 할까? #우아콘2025 #우아한형제들

우아한테크·우아콘 2025 2025·7개월 전·

#ai-security#rag#mcp#ai-agent#supply-chain-security#application-security

AI 요약

AI 사용을 금지하지 않으면서 service security를 지키려면 generative AI·function calling·MCP·agent가 각각 무엇이고 어떤 새로운 attack surface를 여는지부터 정리해야 한다. 우아한형제들 보안 담당자가 'AI를 사용하는 행위의 보안'과 '보안 업무에서 AI 활용' 두 축을 나누고, 실제 만든 세 가지 prototype으로 그 접점을 보여준다.

핵심 포인트

function calling(vendor별 규격 차이)·MCP(host·client·server tool 통신 표준화)·AI agent(계획·실행·평가 자율 loop)의 차이를 보안 논의의 공통 기반으로 정리
Cursor 같은 client 취약점은 빠른 patch·device management로, confidential data 학습은 enterprise policy·MDM·LLM guardrail로, third-party MCP 공급망 위험은 사전 review·중앙 관리로 통제
infrastructure audit interview를 LangChain·LangGraph·Bedrock·S3 checklist RAG agent로 자동화해 근거 있는 추가 질문을 반복, interview resource 90%+ 절감 기대
README에서 project 목적을 추출해 code behavior와 대조하는 malicious MCP checker로 공급망 공격을 탐지하고, Jira 승인·checker·container sandbox·Okta/Keycloak JWT를 묶은 MCP gateway prototype으로 임의 실행을 한곳에서 차단

왜 읽나AI 도입을 막지 않으면서 MCP·agent의 attack surface를 통제해야 하는 보안 담당자에게, AI를 방어 대상이자 방어 도구로 동시에 다루는 실전 접근과 prototype 설계를 제공한다.

챕터별 상세

017:19 – 20:01

Function calling에서 MCP·AI agent까지

LLM은 학습 시점 밖의 weather·stock과 외부 행동을 직접 처리하지 못해 tool 명세를 보고 application에 호출을 요청하는 function calling을 사용하지만 vendor마다 규격이 달라 model 교체 비용이 생긴다. MCP는 host·client·server 사이 tool 통신을 표준화하고 session context를 유지하며, AI agent는 목표를 위해 계획·tool 실행·결과 평가·추론을 자율 loop하는 system이라는 차이를 security 논의의 공통 기반으로 정리한다.

Application security는 code·dependency·infrastructure의 취약점을 배포 전 예방해야 하며 AI 시대에는 ‘AI를 사용하는 행위의 보안’과 ‘보안 업무에서 AI 활용’을 동시에 다뤄야 한다. Cursor 같은 client 취약점은 빠른 patch와 device management로, confidential data 학습은 enterprise policy·MDM·LLM guardrail로, third-party MCP supply-chain risk는 사전 review와 중앙 관리로 줄이는 한편 AI SAST·IAM 분석·incident correlation으로 반복 security 업무를 보조한다.

연 1회 이상 수행하는 규제 기반 infrastructure audit에서 network·security device는 script보다 담당자 interview가 중요해 자산이 백 개를 넘으면 일정 조율과 불완전한 답변에 막대한 비용이 든다. Streamlit·FastAPI, LangChain·LangGraph와 Bedrock을 연결하고 S3 checklist를 RAG knowledge base로 제공해 agent가 근거 있는 추가 질문을 반복하고 양호·취약·N/A와 raw evidence를 저장하도록 만들어 interview resource 90% 이상 절감을 기대한다.

Shell 실행 자체가 정상 기능일 수도 있는 MCP server는 일반 취약점 scanner만으로 악성 여부를 구분하기 어려워, README·Markdown에서 project 목적을 추출하고 언어별 tool registration pattern으로 관련 source를 선별한다. LLM이 선언 목적과 어긋난 behavior를 찾아 안전·위험·N/A와 근거 code를 반환해 포크에 몰래 삽입한 공급망 공격을 탐지하며, 향후 AST call graph와 taint tracking으로 간접 호출과 여러 file의 상관관계를 분석하도록 확장한다.

사용자가 chat으로 MCP server를 요청하면 필요한 정보를 모아 Jira ticket을 만들고 checker로 악성 여부를 검사한 뒤, 통과한 repository에 Dockerfile이 없으면 LLM이 생성해 중앙 container sandbox에 배포한다. Gateway 등록과 Okta·Keycloak 기반 JWT authorization을 거쳐야 tool을 호출하게 함으로써 local 임의 실행, 변경 이력 누락과 공급망 위험을 한곳에서 통제하는 hackathon prototype을 구현했고, 향후 custom LangGraph agent와 AWS 환경으로 개선할 계획이다.