pile·
인프라 / DevOps·discord-blogDiscord Blog·

Discord 음성 서비스를 엣지로 이전하기

Discord는 30개 도시의 대형 데이터센터 기반 음성 인프라를 Cloudflare 엣지의 300개 이상 PoP(Point of Presence)로 마이그레이션했다. 현재 80% 이상의 음성·영상 트래픽이 Cloudflare에서 운영되며, 마이그레이션된 지역의 70%에서 연간 품질 개선이 확인됐다.

핵심 포인트
  • 호스트 디스커버리: Cloudflare가 자체 스케줄로 호스트를 관리하는 구조라 Valkey(GCP Memorystore) 기반 자체 디스커버리 서비스를 10분 TTL로 구현.
  • NIC 큐 경합: 4개 워커가 단일 NIC 송신 큐 공유로 1.5~2% 패킷 손실 발생 → Cloudflare의 UDP 버퍼 수정 후 워커당 8개 큐로 해결.
  • 25초 행(Freeze) 현상: 페이지 캐시 축적으로 인한 디스크 동기화 대기 → Cloudflare 커널팀 전사 차원 패치.
  • Tokio 비동기 스케줄러 병목: 128-poll yield 예산이 마이크로초 단위로 소진돼 recv 폴링 반복, p99 latency 500ms 초과 → 9ms flush 예산 + CPU affinity + RPS 활성화로 해결. Frankfurt p99 34% 감소, 패킷 손실 42% 감소.
  • 교훈: HTTP 워크로드와 실시간 미디어의 스케줄링·큐 경합 동작이 근본적으로 달라 별도 튜닝이 필요하다.
왜 읽나Tokio/Rust 기반 실시간 미디어 인프라를 운영하거나 Cloudflare 엣지 마이그레이션을 검토하는 인프라·미디어 엔지니어에게 실전 트러블슈팅 케이스.
discord-blog
Discord Blog 블로그
원문은 여기서 이어서 읽을 수 있어요
원문 읽기
읽음 (0)

이 글과 비슷한

  1. 인프라 / DevOps·AWS KoreaAWS Korea Tech·

    엔터프라이즈 보안 요구사항을 충족하는 프라이빗 Amazon Bedrock AgentCore 구축하기

    Amazon Bedrock AgentCore의 VPC egress 기능(2026년 4월 추가)을 활용해 온프레미스 LLM·사내 IdP·사내 MCP 서버에 인터넷 노출 없이 연결하는 방법을 다룬다. 규제 산업 엔터프라이즈가 기존 사내 자산을 그대로 유지하면서 Bedrock AgentCore를 안전하게 구축하기 위한 구성 가이드다.

    요약 이어보기
    #mcp#amazon-bedrock#vpc+2
  2. 인프라 / DevOps·gitlab-engGitLab Blog·

    OpenTofu와 Argo CD로 구성하는 GitLab 기반 AWS 제어 플레인

    GitLab을 단일 제어 플레인으로 삼아 OpenTofu로 AWS 인프라를 프로비저닝하고, Argo CD로 GitOps 기반 애플리케이션 배포까지 자동화하는 엔드투엔드 튜토리얼이다. VPC·EKS 클러스터 구성부터 Helm 기반 툴 설치, 샘플 앱 배포까지 모든 과정이 GitLab CI/CD 파이프라인으로 연결된다.

    요약 이어보기
    #kubernetes#aws-eks#gitops+2
  3. 인프라 / DevOps·AWS KoreaAWS Korea Tech·

    Amazon Bedrock 기반 사내 LLM, 키 발급부터 비용 차단까지: F&F의 LiteLLM 게이트웨이 운영 사례

    패션 기업 F&F가 Amazon Bedrock과 LiteLLM 프록시를 결합해 구축한 사내 LLM 플랫폼 운영 사례다. API 키 셀프서비스 발급, 모델별 접근 승인 워크플로, 사용자·프로젝트별 예산 자동 차단까지 전 과정을 직접 구현한 아키텍처 결정과 운영 교훈을 공유한다.

    요약 이어보기
    #kubernetes#amazon-bedrock#litellm+2