pile·
AI / ML·vercel-blogVercel Blog·

How we made v0 an effective coding agent

v0가 단순 코드 생성기를 넘어 실제로 작동하는 코딩 에이전트가 된 방법을 다루는 글이다. Vercel 팀이 v0에 적용한 세 가지 핵심 컴포넌트 — 동적 시스템 프롬프트, LLM Suspense 스트리밍 레이어, 자동 수정기(Autofixer) — 를 상세히 공개했다. 코딩 에이전트를 직접 만들거나 개선하려는 엔지니어에게 실질적인 구현 패턴을 제공한다.

핵심 포인트
  • **동적 시스템 프롬프트**: 임베딩 + 키워드 매칭으로 손수 큐레이션한 코드 예제를 맥락에 맞게 프롬프트에 동적 삽입
  • **LLM Suspense**: 스트리밍 도중 텍스트 변환 — URL 압축과 lucide-react 아이콘 오류를 100ms 내에 실시간 수정
  • **Autofixer**: AST 수준 오류를 250ms 내에 자동 교정, LLM 재호출 없이 로컬에서 처리
상세 정리
1. 동적 시스템 프롬프트v0의 시스템 프롬프트는 고정 텍스트가 아니다. 사용자 요청이 들어오면 두 단계로 관련 예제를 선별한다. 첫째, 요청 텍스트를 임베딩으로 변환해 사전 준비된 코드 예제 데이터베이스와 코사인 유사도를 계산한다. 둘째, 특정 라이브러리명·API명을 키워드로 추출해 정확도를 보정한다. 이렇게 선별된 예제가 시스템 프롬프트 내 예제 블록에 동적으로 삽입된다. `shadcn/ui`나 특정 Vercel API 등 새로운 패턴이 생기면 예제 데이터베이스만 갱신하면 되고, 모델 재학습 없이 즉시 반영된다.
2. LLM Suspense 스트리밍 레이어LLM이 응답을 스트리밍하는 동안 Vercel 팀은 중간에 끼어들어 특정 패턴을 실시간으로 변환한다. 두 가지 주요 변환이 있다.

첫째 URL 압축: 코드 내 긴 외부 URL을 축약된 내부 참조로 교체해 컨텍스트 창을 절약한다.

둘째 lucide-react 아이콘 수정: LLM이 존재하지 않는 아이콘 이름을 환각하는 경우, 런타임에 실제 export 목록을 분석해 가장 가까운 실존 아이콘으로 100ms 내에 교체한다. 스트리밍 완료 이후가 아니라 스트리밍 도중에 처리하기 때문에 사용자 체감 지연이 없다.

3. AutofixerLLM 출력이 완료된 후 코드에 남아있는 구조적 오류를 AST 수준에서 잡아낸다. 예를 들어 불일치 JSX 태그, 잘못된 import 구문 등을 파서로 분석해 자동 수정한다. 전체 처리 시간 목표는 250ms로, LLM을 재호출하지 않아 비용과 지연을 최소화한다. 오류 유형별로 결정론적 수정 규칙을 사전 정의해 두고, 매칭되는 규칙이 없으면 사용자에게 오류 메시지로 알린다.
왜 읽나코딩 에이전트를 직접 구현하거나 LLM 기반 코드 생성 품질을 높이려는 엔지니어에게 실제 프로덕션 아키텍처를 보여준다. "LLM을 더 좋게 만드는 것"이 아니라 "LLM 주변의 파이프라인으로 품질을 제어한다"는 접근법이 핵심 인사이트다. 동적 프롬프트 주입, 스트리밍 중 변환, 후처리 AST 수정은 각각 독립적으로 응용할 수 있는 패턴이다.
vercel-blog
Vercel Blog 블로그
원문은 여기서 이어서 읽을 수 있어요
원문 읽기
읽음 (0)

이 글과 비슷한

  1. AI / ML·인프랩 (인프런)인프런 (인프랩)·

    학습 에이전트 — AI 두뇌 구축하기

    인프런이 강의 학습 에이전트를 구축하며 겪은 기술 스택 선정, 컨텍스트·도구 설계, LLM-as-a-Judge 품질 개선, 비용 최적화 전략을 다룬다. LLM SSE 스트리밍 처리를 위해 Spring MVC + Virtual Thread + Spring AI를 선택하고, 명시적 프롬프트 캐싱으로 입력 토큰을 90% 절감하는 과정까지 실전 경험이 담겨 있다.

    #ai-agent#llm#llm-as-a-judge+2
  2. AI / ML·네이버 D2네이버 D2·

    AI 에이전트 회사 차리기: 설립부터 어디서든 동기화까지

    네이버 ENGINEERING DAY 2026 발표. Claude Code를 매일 쓰지만 매번 초기화되는 문제를 해결하기 위해 NaverMadCat이라는 다중 AI 에이전트 조직 프레임워크를 구축한 경험을 다룬다. 비서실장 역할의 에이전트가 10개 부서 에이전트를 조율하며, 어느 환경에서 접속해도 동일한 컨텍스트로 동작하도록 동기화 메커니즘을 구현했다.

    #claude-code#multi-agent#ai-agent+2
  3. AI / ML·vercel-blogVercel Blog·

    AI Gateway에서 실시간 음성 에이전트 구축하기

    Vercel AI Gateway가 음성·오디오 기능을 정식 지원한다. 실시간 대화 음성(Realtime Voice), 텍스트→음성(TTS), 음성→텍스트(STT) 세 가지를 기존 텍스트/이미지 모델과 동일한 라우팅·인증·모니터링 체계 위에서 사용할 수 있다. OpenAI gpt-realtime-2·Whisper와 xAI Grok 오디오 모델을 지원하며, AI SDK 7 베타로 제공된다.

    #llm-app#ai-sdk#realtime-voice+2