AI / ML·
토스 SLASH·
토스 SLASH·LLM은 똑똑한데, 왜 우리 회사 일은 모를까
토스가 사내 LLM 에이전트를 실전에 투입하며 부딪힌 문제를 다룬다. LLM은 공개 지식은 잘 알지만 회사 내부 맥락(문서·코드·메신저)을 모른다. 이를 해결하기 위해 단순 검색 개선이 아닌 신뢰 가능한 컨텍스트 관리 계층인 Topic 시스템을 설계했다.
#llm-app#rag#agent-engineering+1
AI / ML·
Vercel Blog·
Vercel Blog·mcp-handler 2.0 — MCP 2026-07-28 스펙 지원 및 HTTP+SSE 트랜스포트 제거
Vercel의 mcp-handler@2.0.0이 2026-07-28 Model Context Protocol(MCP) 스펙과 TypeScript SDK v2를 지원한다. 기존 HTTP+SSE 트랜스포트를 완전히 제거하고 세션 없는 스테이트리스 방식으로 전환했다.
핵심 포인트
- MCP 2026-07-28 스펙 및 TypeScript SDK v2로 업그레이드
- 스테이트리스 프로토콜 서빙(per-request 메타데이터) — Redis나 세션 스토리지 불필요
- 구버전 Streamable HTTP 클라이언트를 위한 호환성 레이어 내장
- HTTP+SSE 트랜스포트 완전 제거 — 해당 엔드포인트는 410 Gone 반환
- Node.js 20+, Zod 4 필수 (기존 SDK 패키지는 @modelcontextprotocol/server로 교체)
상세 정리
- 프로토콜 구조 변경: 스테이트리스 방식으로 전환해 각 요청에 독립적인 메타데이터를 처리하며, Redis 의존성과 서버 측 세션 관리가 사라졌다.
- 구버전 호환: 이전 Streamable HTTP 클라이언트를 위한 호환성 레이어를 내장해 점진적 마이그레이션이 가능하다.
- 파괴적 변경: HTTP+SSE 트랜스포트 엔드포인트가 410 Gone을 반환하도록 변경됐다. 기존 SSE 방식을 쓰는 서버는 마이그레이션 기간 동안 1.x 버전을 유지해야 한다.
- 의존성 변경: Zod 4로 올리고 기존 SDK 패키지를 새 패키지(@modelcontextprotocol/server)로 교체해야 한다.
- Next.js 연동: Zod 스키마로 도구를 등록하는 route handler 예제 및 업데이트된 Next.js 템플릿을 제공한다.
왜 읽나MCP 서버를 Vercel/Next.js 환경에서 운영하는 개발자에게 2.0 마이그레이션 필수 체크리스트.
읽음 (0)
이 글과 비슷한
- AI / ML·
Airbnb Engineering·대규모 GenAI 평가로 배운 Eval-Driven Development 방법론
Airbnb가 GenAI 시스템 평가를 엔지니어링의 핵심 규율로 격상한 Eval-Driven Development 방법론을 공개했다. 비결정적 출력, 주관적 정확성, 복잡한 다단계 추론 파이프라인이라는 GenAI 고유 과제를 해결하기 위해 프로그래매틱 검사·LLM-as-Judge·인간 평가를 3단계로 쌓는 평가 스택을 구축했다. 5가지 원칙과 3층 평가 스택을 중심으로 실제 운영에서 검증된 방법론을 정리한다.
#llm-evaluation#genai#llm-as-judge+2 - AI / ML·Vercel Blog·
eve에서 Slack 이벤트 훅과 세션 제어 기능 추가
Vercel의 AI 에이전트 프레임워크 eve가 Slack 채널에서 새로운 이벤트 훅과 세션 제어 기능을 제공한다. onMessage/onEvent 훅을 통해 Slack 이벤트를 유연하게 핸들링하고, 진행 중인 응답을 취소하거나 대화 세션을 초기화하는 기능도 추가됐다.
#typescript#ai-agent#slack+2