외부 벤더 연동 시스템의 안정성과 성능, 비용 모두를 잡기 위한 Mediator 시스템 #우아콘2025 #우아한형제들

여러 service가 같은 vendor를 직접 붙이는 중복은 gateway로 줄일 수 있지만, vendor가 하나뿐이면 그 업체의 장애와 처리량 상한이 전체 서비스 한계가 되고 가격 인상에도 대응할 수 없다. Vendor를 다중화하면 failover, 합산 처리량, 가격 협상력을 얻는 대신 특성별 routing, 장애 대응, 서로 다른 schema 통합, 사용량과 비용 관리가 새 책임으로 생긴다.

좋은 Mediator는 요청을 단순히 균등 분배하지 않고 vendor별 가격, 처리 성능, 제공 기능, 사용량 제한과 현재 장애 상태를 함께 고려해야 한다. Map은 기본 비율에서 장애나 점검 중인 vendor를 실시간 제외하고, messaging은 각 vendor의 최대 처리량을 넘지 않도록 정상·장애 조합별 사전 비율로 전환해 연쇄 장애를 방지한다.

Map 요청은 vendor 응답을 즉시 성공 여부로 판단해 실패 시 다른 vendor로 fallback하고 지속적인 오류에는 circuit breaker로 트래픽을 차단하며, 모두 실패할 때를 위해 open-source route engine도 둔다. Message는 vendor 접수 뒤 실제 단말 수신까지 비동기라 즉시 오류는 retry queue로 우회하고, 이후 수신 확인 데이터가 끊기는 패턴으로 장애를 감지해 traffic을 전환하며 모든 vendor 실패분은 임시 저장 후 복구 시 재발송한다.

Client 요청부터 vendor별 요청·응답과 최종 수신 확인까지 공통 형식으로 적재해 추적과 정산 근거를 만들고, dashboard에서 프로젝트와 vendor별 사용량을 집계한다. 계단형 요금과 상한형 요금처럼 서로 다른 가격 구조에는 routing과 rate limiter를 결합해 가장 저렴한 구간을 유지한다. 그 결과 월 3억 건 이상의 map 호출과 10억 건 이상의 message를 처리하면서 높은 가용성과 발송 성공률을 유지하고 호출 증가에도 비용을 안정적으로 관리했다.