전통적인 멀티에이전트 시스템은 중앙 수퍼바이저가 태스크를 분해·분배하는 방식으로 병목과 단일 장애점을 만든다. 이 글은 에이전트들이 공유 상태를 통해 중앙 조율 없이 스스로 협력하는 "자기 조직화 클러스터" 패턴과, AWS 인프라 위에서 이를 구현한 오픈소스 kiro-flock 레퍼런스를 다룬다. 최대 184 에이전트·11 클러스터를 조합해 프로그래밍 언어를 만들어낸 실험 결과도 포함된다.
핵심 포인트- 중앙 오케스트레이터 대신 공유 저장소(S3)를 통한 간접 소통 — 한 에이전트의 실패가 다른 에이전트로 전파되지 않는다.
- 3가지 코디네이션 알고리즘: 링(Amorphous), 전체 가시성(Mesh), 최근 활성자 우선(Swarm) — 규모·다양성 요구에 따라 런타임에 교체 가능.
- 수렴 타임라인: 8 에이전트(반경 1)는 약 2분, 1,000 에이전트(반경 4)는 약 62분 소요.
- 4대 실패 모드(그룹싱크·드리프트·핫스팟·캐리오버)와 각각의 구체적 완화 전략을 제시한다.
- 분산 시스템 이론(스티그머지, CRDT, 비정형 컴퓨팅)을 AI 에이전트 조율에 직접 적용한 설계다.
상세 정리- 배경: 수퍼바이저 방식은 태스크 트리가 명확히 정의된 경우 우월하지만, 병렬·탐색성 작업에서는 수퍼바이저 처리량이 상한선이 된다.
- 핵심 3요소: (1) 독립 에이전트(별도 프로세스, 직접 통신 없음), (2) 공유 환경(방향 파일·어펜드 전용 로그·아티팩트를 S3에 저장), (3) 방향 파일(목표만 명시, 실행 방식은 에이전트 자율).
- 에이전트 루프: 방향 파일과 피어 로그 읽기 → 목표를 진전시키는 기여 1개 작성 → 아티팩트 저장 → 로그 1줄 추가 반복.
- Amorphous(링): 고정 반경 창으로 이웃 읽기 — 에이전트 수가 늘어도 개별 작업량 일정, 신호가 서서히 전파. 다양성 확보에 적합.
- Mesh(전체 가시성): 모든 에이전트가 모든 피어의 최신 로그를 읽음 — 빠른 정렬 대신 다양성 붕괴(그룹싱크). 약 30 에이전트까지 실용적.
- Swarm(최근 활성자 우선): K개 최근 활성 피어를 읽어 작업 집중 지점을 재조직화 — 100+ 에이전트 처리 가능하지만 K가 너무 작으면 핫스팟 발생.
- 그룹싱크 완화: 초반에 Amorphous로 다양성 확보 후, 정렬 단계에서 Mesh로 전환하는 2단계 전략.
- 드리프트 완화: 반복마다 세션을 새로 시작하고 상태를 공유 로그에만 두어 이전 세션 잔재를 차단.
- 수렴 공식: 링 토폴로지에서 전파에 ceil(N/2R) 이터레이션, 합의에 2~3배 추가 소요.
- 멀티 클러스터 조합: 기능 클러스터, 공유 인프라, QA 클러스터, 코디네이터 클러스터가 동시 운영 — 직렬 의존성 그래프 없이 병렬 처리.
- AWS 레퍼런스 스택: EC2(에이전트 인스턴스), S3(공유 환경·로그), Lambda·API Gateway(컨트롤 플레인), Cognito(접근 관리), Bedrock(사후 분석). AWS CDK 단일 스크립트로 전체 프로비저닝.
- 이론적 기반: 비정형 컴퓨팅(Amorphous Computing), 스티그머지(환경 흔적을 통한 조율), CRDT(충돌 없는 복제 데이터 타입) — 분산 시스템 원칙을 AI 에이전트 조율에 체계적으로 적용했다.
왜 읽나대규모 AI 에이전트 시스템을 병렬·탐색성 작업에 투입하려는 아키텍트와 ML 엔지니어에게, 중앙 오케스트레이터 없이 수백 에이전트를 조율하는 구체적 알고리즘·실측 수치·AWS 구현 레퍼런스를 제공한다.