Discord 가 단일 노드에서 멀티 GPU 클러스터까지 — ML 엔지니어를 위한 분산 컴퓨팅 단순화

문제Discord ML 팀들이 GPU 다중 노드·대용량 데이터셋·학습 부하 문제를 각자 풀면서 같은 인프라 과제를 반복적으로 해결해 표준화가 안 돼 있다.

접근Ray 를 분산 컴퓨팅 기반으로 두고 Dagster 가 워크플로우·설정·잡 스케줄을 맡는다. KubeRay 로 쿠버네티스 클러스터를 동적 프로비저닝, 파라미터화한 YAML 템플릿과 자체 CLI 로 수동 설정을 없앤다. X-Ray 내부 관측 플랫폼이 클러스터 상태를 본다.

결과Ads Ranking 모델이 Quests 참여 플레이어 수 2배, 광고 트래픽 커버리지 ~40% → 거의 100%, 일일 재학습 가능 수준으로 확장.