AI / ML·
토스 SLASH·
토스 SLASH·DS와 MLE가 함께 일하는 법
토스뱅크 ML 팀이 DS와 MLE 간 협업 방식을 1년 동안 세 단계에 걸쳐 개선한 과정을 다룬다. Jupyter 노트북 전달 방식에서 추상화 인터페이스 기반 패키지 계약으로 전환해 "첫 커밋 당일 배포"를 달성했다.
#mlops#monorepo#machine-learning+2
AI / ML·
Stack Overflow Blog·
Stack Overflow Blog·semantic search 의 정확한(혹은 부정확한) 의미
문제시멘틱 검색에 벡터 DB 를 써야 할 때와 Lucene 기반 텍스트 검색이 더 적합한 때를 가르는 기준이 모호하다. 벡터 검색은 근사이고 텍스트 검색은 정확 일치다.
접근UUID·에러 코드 같은 정확 매칭은 Elasticsearch/Solr/OpenSearch 류 Lucene 엔진이 우세. 의미 기반 탐색은 Qdrant 같은 벡터 DB 와 HNSW 알고리즘으로 차원의 저주를 회피. Qdrant Edge 는 약 300MB 바이너리로 로컬 배포가 가능하고 텍스트·이미지·비디오 embedding 을 함께 다룬다.
결과모놀리식 DB 대신 관심사 분리로 도구를 조합하는 접근이 로컬·엣지·클라우드 간 이식성을 키운다. pgvector 같은 하이브리드는 전용 벡터 DB 로 가기 전의 게이트웨이로 본다.
읽음 (0)
이 글과 비슷한
- AI / ML·
NHN Cloud·AI와 개발하기: 숨은 결정을 드러내기
AI 에이전트와 협업할 때 자연어 요구사항을 그대로 구현 프롬프트로 넘기면, 비즈니스 의도 뒤에 숨은 기술 결정이 AI의 몫으로 넘어간다는 문제를 다룬다. NHN Cloud 개발자가 "grill-me" 인터뷰 패턴을 활용해 구현 전에 기술 결정을 명시적으로 확정하는 방법론을 소개한다.
#ai-agent#llm#prompt-engineering+2 - AI / ML·
LY Corporation·Grafana에서 자연어로 장애 원인을 분석하기: LLM 에이전트 기반 SRELens 개발기
LY Corporation Home SRE 팀이 장애 분석 시 메트릭·로그·트레이스가 각각 다른 화면에 흩어져 있는 문제를 해결하기 위해 Grafana 플러그인 SRELens를 개발했다. SRELens는 LLM 에이전트가 자연어 질의를 받아 실제 관측성 데이터를 조회하고, 근거와 함께 장애 원인 후보를 정리해 주는 도구다. LGTM-P 스택(Loki·Grafana·Tempo·Mimir·Pyroscope)과 FlavaMCP 게이트웨이를 통합해 단일 채팅 인터페이스에서 멀티시그널 분석이 가능하다.
#llm-app#mcp#observability+2