Twilio Engineering·Twilio Conversation Relay와 ASP.NET Core(.NET 8)을 결합해 자연스러운 음성 AI 에이전트를 구현하는 C# 튜토리얼이다. OpenAI GPT-4o의 토큰 단위 스트리밍, ElevenLabs TTS, Deepgram STT를 WebSocket으로 연결하는 아키텍처를 완전한 코드와 함께 제시한다. 실시간 발화 중단 감지(interrupt event)와 CancellationTokenSource를 통한 스트림 즉시 취소, SSML break 태그를 활용한 자연스러운 발화 리듬 구현 등 프로덕션급 음성 AI에 필요한 핵심 패턴을 다룬다.
Twilio Engineering·Twilio의 Programmable Messaging API로 자체 OTP 솔루션을 운영하던 서비스가 Verify API로 전환하는 방법을 코드 예시와 함께 설명한다. Verify는 OTP 전송·검증을 위한 전용 API로, 전화번호 구매, 토큰 생성, DB 저장·만료 관리를 내부에서 처리해 개발자가 직접 구현할 코드를 크게 줄인다.
요약 이어보기
포스타입·포스타입 백엔드 엔지니어가 벡터 기반 개인화 추천 시스템을 실제 운영하며 맞닥뜨린 성능 장애와 용량 문제를 해결한 과정을 담은 2부다. 수백만 개의 벡터 KNN 검색이 피크 시간대에 전체 Elasticsearch 검색 성능을 흔드는 문제부터 클러스터 OOM 사태까지, 쿼리 최적화와 인프라 분리 두 가지 경로로 근본 해결에 이른다.
요약 이어보기포스타입·포스타입이 태그 기반 추천의 한계를 극복하고 벡터 임베딩 기반 개인화 추천 시스템을 구축한 과정을 담은 1부다. 유사한 콘텐츠가 다른 용어를 쓰거나 동일한 태그가 전혀 다른 톤의 콘텐츠를 가리키는 문제를 임베딩 벡터로 해결하고, OpenSearch의 HNSW ANN 검색으로 수백만 벡터를 실시간 검색하는 시스템을 구축해 구매율 15% 향상을 달성했다.
요약 이어보기