pile·
백엔드·버즈빌버즈빌·

DynamoDB를 사용하는 Go 서비스의 응답 시간 최적화 #2 TLS Handshake

문제DynamoDB를 사용하는 Go 서비스에서 트래픽 증가 시 일부 gRPC 요청의 응답 시간이 100ms를 초과하는 현상이 발생한다.
접근httptrace.ClientTrace로 추적한 결과, 짧은 타임아웃(30ms)으로 인한 재시도가 빈번한 TLS Handshake를 유발하는 악순환 발견. TLS 제거·VPC Endpoint·Session Resumption 등을 검토했으나 DynamoDB 구조적 한계로 채택 불가했고, 타임아웃을 70ms로 조정해 대부분 해결했다.
결과100ms 초과 요청 대부분을 해소했으나 극소수는 잔존. DynamoDB의 멀티 Request Router 구조에서 커넥션을 임의로 끊는 메커니즘이 TLS Handshake를 반복 유발한다는 인사이트를 확보했다.
버즈빌
버즈빌 블로그
원문은 여기서 이어서 읽을 수 있어요
원문 읽기
읽음 (0)

이 글과 비슷한

  1. 백엔드·github-engGitHub Engineering·

    조기 종료를 없애야 벡터화된다 — 메모리 속도 소스 코드 케이스 폴딩

    GitHub의 코드 검색 엔진 Blackbird는 480TB 이상의 소스 코드를 인덱싱하기 전 모든 바이트에 case folding을 적용한다. 이 글은 Rust로 구현한 case folding을 메모리 대역폭 한계(45+ GiB/s)까지 끌어올린 두 가지 반직관적 최적화를 상세히 다룬다. 핵심은 루프 조기 종료(break) 제거로 LLVM 벡터화를 유도하고, UTF-8을 디코딩하지 않고 바이트 공간 산술만으로 fold를 수행하는 것이다.

    #rust#unicode#simd+2
  2. 백엔드·여기어때 (GC컴퍼니)여기어때 (GC컴퍼니)·

    트랜잭션 스크립트에서 숙소 메타 + 가격 계산 모듈로 — 전시 아키텍처 개선기 (2/3)

    여기어때 전시개발팀이 숙소 상세(PDP) API를 해부한 결과, 코드상으로는 DB 호출 3번처럼 보이던 요청이 실제로는 MongoDB $lookup 체인으로 컬렉션을 19회 접근하는 구조였다. 이 트랜잭션 스크립트 방식의 핵심 문제는 "aggregation이 I/O를 가린다"는 점으로, 독립적인 쿼리 10개가 단일 파이프라인에 직렬화되어 병렬화 기회를 잃고, 가격 때문에 거의 안 바뀌는 이미지까지 매 요청마다 읽어야 하는 읽기 증폭이 발생했다. V3에서는 "조회 시점 조립"을 "쓰기 시점 사전 조립"으로 전환하고, 화면별로 복제되던 가격 계산 로직을 goodsprice 단일 모듈로 수렴했다. 4개 API(PLP/PDP/RDP/ILP)의 반복 마이그레이션은 Claude Code skill로 절차를 고정하고 쉐도잉 + 동일성 검증으로 안전망을 마련하는 방식으로 진행됐다.

    #architecture#migration#caching+2