Black Friday 867억 건 요청 — Vercel의 인프라 운영기

Vercel이 2024년 Black Friday-Cyber Monday 96시간 동안 867억 건의 요청과 초당 194만 건의 피크 트래픽을 처리한 인프라 운영기를 공개했다. 엣지 렌더링·요청 collapsing·백그라운드 재검증 세 가지 기법을 조합해 원점 서버를 보호했고, DDoS 방어와 실시간 가시성을 통해 배포 속도를 유지했다.

핵심 포인트

96시간 동안 867억 건 요청, 피크 초당 194만 건을 처리했다.
요청 collapsing으로 캐시 미스 발생 시 동시 요청을 리전별 단일 원점 요청으로 통합해 origin stampede를 방지했다.
백그라운드 재검증: stale 캐시를 즉시 제공하면서 백그라운드에서 페이지를 재생성해 응답 속도와 최신성을 동시에 확보한다.
Platform Firewall이 305억 건, 고객별 WAF가 5.2억 건의 요청을 차단했다.
피크 기간에도 팀들이 245만 건의 배포를 실행했다.

상세 정리

규모: 2024년 Black Friday-Cyber Monday(금요일~다음 목요일) 96시간 동안 867억 건 요청 처리, 피크 초당 194만 건.
엣지 렌더링 원칙: 연산을 엣지에서 수행하고 캐싱을 자동화해 원점 서버 부하를 분산. 엣지에서 "렌더링·캐싱·보호 레이어" 모두 기본 동작한다.
요청 collapsing: 캐시 미스 시 동시에 들어오는 다수 요청을 리전당 단일 원점 요청으로 묶는다. 원점 stampede(캐시 미스 폭주)를 방지하는 핵심 기법.
백그라운드 재검증: 사용자에게는 약간 stale 한 캐시 콘텐츠를 즉시 제공하고, 백그라운드에서 페이지 재생성을 트리거한다. 사용자는 대기 없이 빠른 응답을 받고 콘텐츠는 자동 갱신된다.
DDoS 방어: 공격 강도에 비례해 방어 레이어를 동적 확장. Platform Firewall이 305억 건, 고객별 WAF가 5.198억 건을 차단했다.
배포 속도 유지: 피크 96시간 내에도 팀들이 245만 건의 배포를 실행. 인프라 안정성이 배포 속도를 제약하지 않았다.
운영 가시성: 실시간 대시보드로 캐시 동작, 리전별 트래픽 패턴, 함수 성능, 사용자 경험 메트릭을 모니터링.
실제 사례: Helly Hansen은 Vercel 인프라 마이그레이션 후 전년 대비 수익 80% 증가, 전환율 2배를 달성했다.