pile·
AI / ML·dropbox-techDropbox Tech·

DSPy 로 Dropbox Dash 의 관련성 평가자 최적화

문제Dropbox Dash의 relevance judge는 모델 변경과 수동 prompt tuning 때마다 품질, 비용, JSON 출력 안정성이 흔들렸다.
접근DSPy로 human rating과 NMSE를 objective로 정의하고 GEPA, MIPROv2 기반 prompt optimization을 수행했다. 과적합과 rating scale 변경을 막는 제약도 넣었다.
결과gpt-oss-120b judge의 NMSE를 8.83에서 4.86으로 45% 낮췄다. gemma-3-12b의 malformed JSON은 40% 이상에서 9건으로 줄었다.
dropbox-tech
Dropbox Tech 블로그
원문은 여기서 이어서 읽을 수 있어요
원문 읽기
읽음 (0)

이 글과 비슷한

  1. AI / ML·stackoverflow-blogStack Overflow Blog·

    에이전틱 SDLC를 QA 엔지니어링 마인드셋으로 구축하기

    Motorola Solutions의 테스트 엔지니어링 선임 매니저 Suneet Malhotra가 Stack Overflow 팟캐스트에 출연해 MCP(Model Context Protocol) 기반 에이전틱 SDLC 파이프라인 구축과 LLM-as-judge 평가 방법론을 소개했다. QA 엔지니어링 관점을 소프트웨어 개발 생애 전반에 적용하고, 설계 단계 직후 스펙을 강화해 결함 비용을 줄이는 'QA shift-left' 접근을 다룬다.

    요약 이어보기
    #llm-agent#mcp#test-automation+2
  2. AI / ML·LINE EngineeringLINE Engineering·

    보안 업무를 위한 AI 에이전트 플랫폼 「SAGE」 개발기 1편: 판단은 사람에게 남기는 설계

    LY Corporation Security Development Division이 보안 업무용 AI 에이전트 플랫폼 SAGE의 개발 과정을 공개했다. "완전 자동화"와 "도입 미루기" 양 극단 사이에서 "판단은 사람에게 남기는 설계"를 핵심 원칙으로 삼고, 3단계 점진적 도입 전략(AI 보조→에이전트 협업→자동화)을 채택했다. 현재는 1단계를 중심으로 파일럿·실운영 중이다.

    요약 이어보기
    #llm-app#opensearch#mcp+2