서버 0대, 브라우저 SLM으로 만든 차트 추천 봇

문제미리디는 스프레드시트 데이터에 맞는 차트를 추천하면서 데이터 유출 없이, API 비용 없이, 결정론적으로 동작하는 봇을 만들어야 했다.

접근브라우저 온디바이스 SLM 선택. Chrome Prompt API/WebLLM/Transformers.js/서버 SLM 비교 후 WebGPU 없을 때 WASM 폴백 가능한 Transformers.js 채택. 규칙 엔진이 데이터 trait 분석으로 차트 유형 결정, SLM 은 추천 이유 자연어 설명만 담당. Web Worker 추론 + 토큰 스트리밍 + JSON 파싱 실패 시 막대 차트 폴백.

결과서버 0대로 운영하면서 같은 입력에 항상 같은 차트 추천이 가능. 좁은 출력 공간 태스크에서 SLM 이 강하고, 프롬프트보다 출력 스키마 설계가 더 중요하다는 교훈.