도메인 전문가를 인코딩하다: Spotify 데이터 어시스턴트 컨텍스트 레이어

Spotify는 7만 개 이상의 데이터셋을 보유한 조직에서 자연어 질의를 신뢰 가능한 SQL로 변환하는 데이터 어시스턴트 Vedder를 구축했다. 핵심 문제는 LLM에 스키마만 넣는 방식이 컨텍스트 윈도우 한계와 도메인 지식 공백으로 신뢰할 수 없는 결과를 낳는다는 점이었다. 이를 해결하기 위해 도메인 전문가 지식을 구조화해 인코딩하는 컨텍스트 레이어를 설계했으며, 2025년 8월 출시 이후 2,100명 이상이 13,000건 이상의 대화에서 활용했다.

핵심 포인트

스키마만으론 부족하다: 데이터 품질·정의·사용 패턴 같은 도메인 지식은 스키마에 담기지 않는다.
클러스터 모델은 Datasets·Pairs·Docs 세 컴포넌트로 도메인 지식을 체계화한다.
자동 생성 Q&A 쌍의 87.5%가 전문가 검수에서 탈락했다 — 자동화보다 전문가 큐레이션이 품질을 결정한다.
클러스터마다 건강도 점수를 운영해 전문가가 큐레이션 우선순위를 정할 수 있게 한다.
컨텍스트가 신뢰를 만든다 — 답변의 품질은 그 뒤에 있는 컨텍스트 품질과 동일하다.

상세 정리

배경: Spotify는 7만 개 이상의 데이터셋과 페타바이트 규모의 데이터를 운영한다. 광고·팟캐스트·음악 등 도메인이 다양해 단순 스키마 주입 방식으로는 신뢰할 수 있는 SQL을 생성하기 어렵다.
핵심 한계: LLM에 스키마 정보만 넣으면 컨텍스트 윈도우 한계에 부딪히고, 데이터 품질·용어 정의·올바른 사용 패턴 같은 도메인 암묵지는 스키마에 표현되지 않는다.
Vedder 시스템: 자연어 질문을 받아 SQL 쿼리와 함께 신뢰 가능한 데이터를 반환한다. 2025년 8월 출시 후 광고·팟캐스트·음악 등 다양한 도메인에서 2,100명 이상이 13,000건 이상의 대화를 진행했다.
클러스터 모델 개요: 컨텍스트를 클러스터 단위로 관리하며, 각 클러스터는 Datasets·Pairs·Docs 세 컴포넌트로 구성된다.
Datasets 컴포넌트: 테이블 풀 스키마, 컬럼 카디널리티, 샘플 값, 파티션 구조를 포함한다. LLM이 실제 데이터 분포와 형태를 이해할 수 있는 기반을 제공한다.
Pairs 컴포넌트: 도메인 전문가가 검수한 질문-SQL 예제 쌍을 보관한다. 자동 생성이 아닌 전문가가 유효하다고 승인한 사례만 포함된다.
Docs 컴포넌트: 비즈니스 컨텍스트 문서 계층으로, 용어 정의·지표 의미·데이터 사용 패턴 등 스키마에 담을 수 없는 암묵지를 저장한다.
자동화의 한계 수치화: 자동 생성된 Q&A 쌍을 전문가에게 검수시켰을 때 12.5%만 승인됐다. 나머지 87.5%는 "ad-hoc 탐색·디버깅 세션·재질문하지 않을 일회성 쿼리"로 거부됐다. 컨텍스트 스케일링을 자동화만으로 해결할 수 없음을 수치로 증명한다.
건강도 모니터링: 각 클러스터에 건강 점수를 부여한다. 데이터 유효성·스키마 변경·컨텍스트 커버리지·쿼리 재현성을 측정해 전문가가 어느 클러스터를 먼저 보완할지 판단할 수 있게 한다.
설계 철학: "답은 그 뒤에 있는 컨텍스트만큼만 신뢰할 수 있고, 컨텍스트는 지속적인 관리가 필요하다." 조직 데이터를 다루는 AI 시스템에서 인간 전문 지식은 자동화로 대체 불가라는 원칙을 관통한다.

왜 읽나사내 데이터 어시스턴트나 Text-to-SQL 시스템을 설계하는 엔지니어에게, 스키마 주입을 넘어 도메인 지식을 구조화해 LLM 신뢰도를 높이는 실전 아키텍처 레퍼런스.

Spotify Engineering 블로그

원문은 여기서 이어서 읽을 수 있어요

원문 읽기

읽음 (0)

·takedown 요청

도메인 전문가를 인코딩하다: Spotify 데이터 어시스턴트 컨텍스트 레이어

이 글과 비슷한

에이전틱 SDLC를 QA 엔지니어링 마인드셋으로 구축하기

보안 업무를 위한 AI 에이전트 플랫폼 「SAGE」 개발기 1편: 판단은 사람에게 남기는 설계

실리콘투의 사내 지식 MCP 게이트웨이 구축기