파일시스템과 Bash로 AI 에이전트 구축하기 — 벡터 검색보다 grep이 정확하다

LLM이 코드 기반으로 대규모 학습을 거쳤다는 사실을 활용해, 벡터 검색 대신 파일시스템과 bash 커맨드로 에이전트 컨텍스트를 관리하는 아키텍처를 제시한다. 세일즈 콜 요약 에이전트에서 Claude Opus 4.5로 콜당 비용을 $1.00에서 $0.25로 75% 절감하면서 품질도 향상됐다.

핵심 포인트

LLM이 코드와 파일시스템 탐색에 최적화되어 있어, 벡터 검색보다 grep·ls·cat 같은 bash 커맨드가 더 정확한 컨텍스트를 반환한다.
파일시스템 계층이 도메인 관계를 자연스럽게 표현한다 — 고객 데이터를 /customers/cust_12345/ 구조로 저장하면 임베딩 변환 없이 탐색 가능하다.
grep은 근사값이 아닌 정확한 매칭을 반환해 정밀도가 높다.
에이전트가 필요한 파일만 on-demand로 로드해 컨텍스트 창 낭비를 최소화한다.
bash-tool과 AI SDK로 구현하며, 샌드박스 VM 환경에서 격리된 실행도 지원한다.

상세 정리

핵심 통찰: "최고의 에이전트 아키텍처는 이미 터미널에 있다." LLM이 코드 기반으로 학습됐기 때문에 파일시스템 탐색 작업에서 강점을 발휘한다.
비용 절감 사례: 세일즈 콜 요약 에이전트에서 Claude Opus 4.5 사용 시 콜당 $1.00 → $0.25로 75% 절감. 동시에 출력 품질도 향상됐다.
벡터 검색의 한계: 벡터 검색은 의미적으로 근사한 결과를 반환하지만, grep은 정확한 매칭을 반환한다. 고객 ID나 날짜 같은 정확한 값 검색에서 더 신뢰할 수 있다.
도메인 정렬: /customers/cust_12345/profile.json, /customers/cust_12345/tickets/, /customers/cust_12345/conversations/2026-01/ 처럼 도메인 계층을 디렉터리 구조로 그대로 표현한다.
선택적 로딩: 에이전트가 필요한 파일만 on-demand로 읽어 전체 데이터를 컨텍스트에 미리 로드하지 않는다. 토큰 낭비를 방지한다.
bash-tool: 파일 접근을 샌드박스 환경에서 실행하는 도구. just-bash(TypeScript 기반 bash 인터프리터)로 안전한 커맨드 실행을 제공한다.
샌드박스 VM: 실제 셸·파일시스템·커스텀 바이너리가 필요한 경우 Vercel Sandbox API로 완전한 VM 격리 환경에서 실행한다.
구현 조합: AI SDK + bash-tool + Sales Call Summary 템플릿을 함께 사용한다.

왜 읽나RAG나 벡터 검색 대신 단순한 파일시스템 + bash 아키텍처로 AI 에이전트 비용을 줄이고 싶은 개발자에게. LLM의 코드 이해 강점을 활용한 컨텍스트 관리 전략과 75% 비용 절감 수치를 볼 수 있다.

Vercel Blog 블로그

원문은 여기서 이어서 읽을 수 있어요

원문 읽기

읽음 (0)

·takedown 요청

파일시스템과 Bash로 AI 에이전트 구축하기 — 벡터 검색보다 grep이 정확하다

이 글과 비슷한

DS와 MLE가 함께 일하는 법

AI와 개발하기: 숨은 결정을 드러내기

Grafana에서 자연어로 장애 원인을 분석하기: LLM 에이전트 기반 SRELens 개발기