네이버 D2·네이버 ENGINEERING DAY 2026 발표. KV Cache 인지 라우팅, Prefix Cache, 분산 멀티노드 서빙 같은 LLM 추론 최적화 기술을 Kubernetes 프로덕션에 넣으면서 기존 인프라 스택과 충돌한 실전 문제들을 다룬다. Istio 서비스 메시, 스케줄러, Pod 보호 정책이 각각 어떻게 부딪혔고 어떻게 진단·해결했는지 이어진다.
AWS Korea Tech·Amazon Bedrock AgentCore의 VPC egress 기능(2026년 4월 추가)을 활용해 온프레미스 LLM·사내 IdP·사내 MCP 서버에 인터넷 노출 없이 연결하는 방법을 다룬다. 규제 산업 엔터프라이즈가 기존 사내 자산을 그대로 유지하면서 Bedrock AgentCore를 안전하게 구축하기 위한 구성 가이드다.
요약 이어보기
GitLab Blog·GitLab을 단일 제어 플레인으로 삼아 OpenTofu로 AWS 인프라를 프로비저닝하고, Argo CD로 GitOps 기반 애플리케이션 배포까지 자동화하는 엔드투엔드 튜토리얼이다. VPC·EKS 클러스터 구성부터 Helm 기반 툴 설치, 샘플 앱 배포까지 모든 과정이 GitLab CI/CD 파이프라인으로 연결된다.
요약 이어보기AWS Korea Tech·패션 기업 F&F가 Amazon Bedrock과 LiteLLM 프록시를 결합해 구축한 사내 LLM 플랫폼 운영 사례다. API 키 셀프서비스 발급, 모델별 접근 승인 워크플로, 사용자·프로젝트별 예산 자동 차단까지 전 과정을 직접 구현한 아키텍처 결정과 운영 교훈을 공유한다.
요약 이어보기