pile·
인프라 / DevOps·LG U+LG U+·

멤버십 서비스 피크 워크로드 해소와 비용의 균형

문제LG U+ 멤버십의 유플투쁠 이벤트가 평소 대비 약 8배 트래픽을 만들어 대기열 길이가 늘고 마지막 고객이 20분까지 기다리는 경험이 발생했다.
접근Aurora Serverless v2를 검토했지만 0.5 ACU 73$ / 16 ACU 2,336$ 등 RI 대비 5~7.8배 비싸고, 매니지드·서버리스 혼용도 부하 분산·페일오버 평균 3.1초 순단 부담이 커 보류했다. 대신 파드 증량에 비례해 RDS 스펙을 키운 뒤 Reserved Instance를 사서 비용을 잡고, 멤버십이 선형 시스템에 가깝다는 측정을 바탕으로 MAX CPU 기준으로 스케일 최댓값을 결정했다.
결과초기 허용 유량 1.5배, 최댓값 2배까지 수용해 피크 워크로드를 최대 2배 빠르게 해소하고 그만큼 빠르게 감량했다. 대기 지연이 절반으로 줄어 사용자 경험·비용을 동시에 잡았다.
LG U+
LG U+ 블로그
원문은 여기서 이어서 읽을 수 있어요
원문 읽기
읽음 (0)

이 글과 비슷한

  1. 인프라 / DevOps·AWS KoreaAWS Korea Tech·

    엔터프라이즈 보안 요구사항을 충족하는 프라이빗 Amazon Bedrock AgentCore 구축하기

    Amazon Bedrock AgentCore의 VPC egress 기능(2026년 4월 추가)을 활용해 온프레미스 LLM·사내 IdP·사내 MCP 서버에 인터넷 노출 없이 연결하는 방법을 다룬다. 규제 산업 엔터프라이즈가 기존 사내 자산을 그대로 유지하면서 Bedrock AgentCore를 안전하게 구축하기 위한 구성 가이드다.

    요약 이어보기
    #mcp#amazon-bedrock#vpc+2
  2. 인프라 / DevOps·gitlab-engGitLab Blog·

    OpenTofu와 Argo CD로 구성하는 GitLab 기반 AWS 제어 플레인

    GitLab을 단일 제어 플레인으로 삼아 OpenTofu로 AWS 인프라를 프로비저닝하고, Argo CD로 GitOps 기반 애플리케이션 배포까지 자동화하는 엔드투엔드 튜토리얼이다. VPC·EKS 클러스터 구성부터 Helm 기반 툴 설치, 샘플 앱 배포까지 모든 과정이 GitLab CI/CD 파이프라인으로 연결된다.

    요약 이어보기
    #kubernetes#aws-eks#gitops+2
  3. 인프라 / DevOps·AWS KoreaAWS Korea Tech·

    Amazon Bedrock 기반 사내 LLM, 키 발급부터 비용 차단까지: F&F의 LiteLLM 게이트웨이 운영 사례

    패션 기업 F&F가 Amazon Bedrock과 LiteLLM 프록시를 결합해 구축한 사내 LLM 플랫폼 운영 사례다. API 키 셀프서비스 발급, 모델별 접근 승인 워크플로, 사용자·프로젝트별 예산 자동 차단까지 전 과정을 직접 구현한 아키텍처 결정과 운영 교훈을 공유한다.

    요약 이어보기
    #kubernetes#amazon-bedrock#litellm+2