pile·
AI / ML·meta-engMeta Engineering·

SilverTorch: 추천 시스템을 위한 새로운 검색 패러다임

문제추천 시스템의 검색 컴포넌트(ANN, 필터링, 재순위화)가 독립 마이크로서비스로 분리되어 버전 불일치, 네트워크 지연, 통합 사이클 수주 이상 누적.
접근모든 컴포넌트를 단일 PyTorch 신경망으로 통합하는 Index as Model 패러다임 도입. Bloom 인덱스 필터(비트 연산), Int8 ANN 검색, 다중 작업 점수 매기기, 신경망 재순위화를 텐서 기반으로 구현.
결과8천만 항목 기준 기존 대비 23.7배 처리량 향상, CPU 솔루션 대비 20.9배 비용 효율 개선. 통합 사이클 수주 → 수일로 단축. SIGIR 2026 정규 논문 채택.
meta-eng
Meta Engineering 블로그
원문은 여기서 이어서 읽을 수 있어요
원문 읽기
읽음 (0)

이 글과 비슷한

  1. AI / ML·stackoverflow-blogStack Overflow Blog·

    에이전틱 SDLC를 QA 엔지니어링 마인드셋으로 구축하기

    Motorola Solutions의 테스트 엔지니어링 선임 매니저 Suneet Malhotra가 Stack Overflow 팟캐스트에 출연해 MCP(Model Context Protocol) 기반 에이전틱 SDLC 파이프라인 구축과 LLM-as-judge 평가 방법론을 소개했다. QA 엔지니어링 관점을 소프트웨어 개발 생애 전반에 적용하고, 설계 단계 직후 스펙을 강화해 결함 비용을 줄이는 'QA shift-left' 접근을 다룬다.

    요약 이어보기
    #llm-agent#mcp#test-automation+2
  2. AI / ML·LINE EngineeringLINE Engineering·

    보안 업무를 위한 AI 에이전트 플랫폼 「SAGE」 개발기 1편: 판단은 사람에게 남기는 설계

    LY Corporation Security Development Division이 보안 업무용 AI 에이전트 플랫폼 SAGE의 개발 과정을 공개했다. "완전 자동화"와 "도입 미루기" 양 극단 사이에서 "판단은 사람에게 남기는 설계"를 핵심 원칙으로 삼고, 3단계 점진적 도입 전략(AI 보조→에이전트 협업→자동화)을 채택했다. 현재는 1단계를 중심으로 파일럿·실운영 중이다.

    요약 이어보기
    #llm-app#opensearch#mcp+2