퍼블릭 클라우드 리전을 위한 Smart Tiered Cache 개선

Cloudflare Smart Tiered Cache가 AWS/GCP/Azure/Oracle Cloud 같은 퍼블릭 클라우드 오리진에서 제대로 동작하지 못했던 원인과 해결책을 다룬다. 애니캐스트 아키텍처로 인해 캐시 미스 경로가 비효율적으로 라우팅되는 "헤어피닝" 현상을 사용자가 클라우드 리전을 직접 힌트로 지정하는 방식으로 해결했다.

핵심 포인트

애니캐스트 기반 클라우드 IP는 수십 개 데이터센터에서 동일한 지연시간으로 응답해 상위 티어 선택 알고리즘이 최적 경로를 찾지 못했다.
헤어피닝: 아시아 사용자 요청이 인근 Cloudflare PoP에 도달했다가 시카고 상위 티어를 거쳐 싱가포르 오리진을 fetch하는 대륙 횡단 비효율이 발생했다.
물리학 기반 탐지: 두 체크포인트 PoP의 지연시간 합이 광섬유 빛속도 이동 가능 거리보다 짧으면 애니캐스트 오리진으로 판정한다.
해결책: aws:us-east-1, gcp:europe-west1 형식으로 클라우드 리전을 지정하면 최적 상위 티어를 자동 선택한다.
모든 Cloudflare 플랜에 추가 비용 없이 제공되며 대시보드·API·Terraform 모두 지원한다.

상세 정리

배경: Smart Tiered Cache는 2021년 출시로, 지연시간 기반으로 오리진마다 최적 상위 티어 PoP 하나를 선택해 캐시 미스를 집중시키는 방식이다.
애니캐스트 문제: AWS 로드밸런서 등 클라우드 애니캐스트 IP는 수십 개 Cloudflare 데이터센터에서 동일한 지연시간으로 응답해 알고리즘이 고정 기준점을 잡지 못한다.
헤어피닝 예시: 아시아 사용자 → 인근 Cloudflare PoP → 시카고 상위 티어 → 싱가포르 오리진 순으로 대륙을 불필요하게 횡단하는 경로가 생성된다.
물리학적 탐지 메커니즘: 두 체크포인트 데이터센터의 왕복 지연시간 합이 광속(광섬유 기준)으로 이동 가능한 물리적 거리보다 짧으면 해당 오리진을 애니캐스트로 판정한다.
리전 힌트 입력 방법: Cloudflare 대시보드(Caching > Tiered Cache > Origin Configuration), API, Terraform에서 aws:us-east-1 또는 gcp:europe-west1 형식으로 지정한다.
IP 범위 매핑: 클라우드 사업자가 제공하는 IP 범위 파일을 몇 시간마다 자동 갱신해 리전별 IP 프리픽스와 상위 티어 DB를 매핑한다.
상위 티어 선택 알고리즘: 서브넷별 가중치 투표(weighted vote) 방식으로 15분마다 갱신하며, 현재 상위 티어 할당 현황을 기준으로 최적 티어를 결정한다.
폴백 전략: 탐침 데이터가 부족할 때는 가장 가까운 Tier 1 PoP의 지리적 근접성으로 대체하고, 실데이터가 축적되면 자동 전환한다.
이중화: 기본 상위 티어와 폴백 상위 티어는 반드시 다른 PoP에서 선택해 단일 장애점을 방지한다.
최근 확장: 2024년 11월 R2 스토리지, 2025년 1월 로드밸런싱 풀로도 자동 상위 티어 선택 기능이 적용됐다.