pile·
인프라 / DevOps·slack-engSlack Engineering·

Slack AI 멀티 클라우드 전환기

문제단일 AWS SageMaker/Bedrock 인프라에서 GPU 부족, 모델 출시 지연, 공급자 단일 장애점 문제가 누적.
접근SageMaker → Bedrock → On-Demand 하이브리드 → GCP Vertex AI 로 이어지는 4단계 전환. API 정규화 레이어, 지표 기반 자동 라우팅, 서킷 브레이커로 공급자 불가지론적 아키텍처 구성.
결과복잡 추론 품질 약 10% 향상, 고빈도 저토큰 워크플로 지연 약 67% 감소. 공급자 장애 시 무중단 트래픽 전환 가능.
slack-eng
Slack Engineering 블로그
원문은 여기서 이어서 읽을 수 있어요
원문 읽기
읽음 (0)

이 글과 비슷한

  1. 인프라 / DevOps·vercel-blogVercel Blog·

    Vercel CLI 드라이런 배포로 실제 배포 전 구성 미리 확인하기

    Vercel CLI v54.17.2부터 vercel deploy --dry 명령으로 실제 파일 업로드 없이 배포 구성을 미리 검사할 수 있다. 프레임워크 감지 결과, 포함/제외 파일 목록, 디렉터리 크기 분포, 콘텐츠 해시까지 사전에 확인하고 나서 배포를 결정할 수 있어 의도치 않은 배포 실패를 예방한다.

    #deployment#ci-cd#vercel-cli+1