백엔드·

11번가·2023년

11번가 인턴의 카탈로그 리뷰 API 개선기

11번가 인턴이 대규모 세일 트래픽(11-11 그랜드세일) 시 카탈로그 리뷰 API에서 발생하는 DB 과부하 문제를 이중 캐시 아키텍처로 해결한 5주 프로젝트를 공유한다. 카탈로그-상품-리뷰의 1:N:N² 계층 구조가 만들어내는 대량 DB 쿼리를 Caffeine 로컬 캐시 + Redis 글로벌 캐시 이중화와 선제적 캐시 갱신으로 대응했다. 캐시 콜드 스타트 상태에서 응답 시간 61%, 캐시 적중 상태에서 44% 감소를 달성했다.

핵심 포인트

1:N:N² 계층 구조(카탈로그→상품→리뷰)가 대규모 트래픽에서 DB 과부하 원인
Caffeine 단독 → Caffeine + Redis 이중 캐시로 인스턴스 간 데이터 불일치 해소
Redis Sorted Set으로 인기 카탈로그를 추적하고 선제적 캐시 갱신 적용
만료 전 자동 갱신으로 콜드 스타트 지연 제거
비핵심 작업을 비동기 처리로 전환해 응답 성능 추가 개선
배포 후 에러 수 및 DB 부하 대폭 감소 확인

상세 정리

기존 문제: 카탈로그-상품-리뷰 1:N:N² 관계로 API 응답 시 대량 DB 쿼리 발생
간헐적 타임아웃과 리뷰 미표시 장애 → 11-11 세일 같은 트래픽 급증 시 악화
기존 Caffeine 로컬 캐시: 서버 인스턴스 간 데이터 불일치로 성능 편차 발생
Redis 글로벌 캐시 추가: 모든 인스턴스가 동일 데이터 공유, 불일치 해소
Redis Sorted Set으로 조회 빈도 기반 인기 카탈로그 목록 관리
캐시 만료 전 선제적 갱신으로 캐시 미스 시 DB 쿼리 급증 방지
비동기 처리 전환으로 핵심 응답 경로에서 부가 작업 분리
콜드 캐시 상태 응답 시간 61% 감소, 웜 캐시 상태 44% 감소
배포 후 서버 인스턴스 수에 비례한 DB 부하 문제 해소 확인

왜 읽나계층적 데이터 구조를 가진 API에서 대규모 트래픽을 Caffeine+Redis 이중 캐시와 선제적 갱신 패턴으로 대응한 실전 성능 개선 사례.

11번가 블로그

원문은 여기서 이어서 읽을 수 있어요

읽음 (0)

·takedown 요청

이 글과 비슷한