말하지 않고 만들었다 — AX를 코드로 구현한 6개월의 기록

SK에서 6개월간 7개의 AI 시스템을 직접 구현하며 쌓은 엔지니어링 경험을 공유한 글이다. '말하지 않고 만들었다'는 제목처럼, 설계 문서나 발표보다 코드로 먼저 증명하는 방식으로 조직 내 AI 전환(AX)을 이끌었다. 코칭 시스템, 멀티에이전트 콘텐츠 파이프라인, HR 챗봇 등 다양한 도메인에서 실전 LLM 앱을 구축한 과정에서 얻은 8가지 교훈이 핵심이다.

핵심 포인트

6개월간 7개 AI 시스템 직접 구현: 코칭, 직무/스킬 기반 인력 배치, 지식 흐름, 멀티에이전트 콘텐츠, 에이전트 거버넌스, HR 챗봇, 개발자 도구
핵심 교훈: "Rails > Walls" — 금지 규칙보다 가이드레일(좋은 방향으로 유도하는 구조)이 더 효과적
모델 이식성(Model Portability) 설계: 특정 LLM 벤더 종속 없이 추상화 레이어로 교체 가능하게 구축
프롬프트 버저닝 필수: 프롬프트를 코드처럼 Git 관리, 변경 이력·롤백 체계 도입
리뷰어 분리 원칙: AI 출력물 검토자를 생성자와 분리해 편향 방지
HR 챗봇에 Bi-temporal 데이터 모델 + 4-eye 승인 프로세스 적용 (인사 데이터 정확성 보장)

상세 정리

시스템 1 (코칭): 직원 역량 데이터 + LLM으로 개인화 코칭 메시지 생성, 구조화된 출력(Structured Output) 활용
시스템 2 (직무/스킬 배치): 직무기술서-스킬 매핑 자동화, 벡터 유사도 검색으로 적임자 추천
시스템 3 (지식 흐름): 사내 문서 RAG 파이프라인, 문서 freshness 점수로 stale 콘텐츠 자동 플래그
시스템 4 (멀티에이전트 콘텐츠): 리서치-초안-검토-발행 에이전트 체인, 각 에이전트 단일 책임 원칙 적용
시스템 5 (에이전트 거버넌스): 에이전트 행동 감사 로그, 비용·latency·품질 지표 대시보드
시스템 6 (HR 챗봇): Bi-temporal 모델(유효시간/트랜잭션시간)로 인사 이력 정확한 시점 조회 + 4-eye 승인으로 중요 변경 이중 검증
시스템 7 (개발자 도구): 코드 리뷰 보조, PR 설명 자동 생성, 테스트 케이스 추천
교훈 요약: 모델 이식성 / 프롬프트 버저닝 / 리뷰어 분리 / Rails>Walls / 에이전트 단일책임 / 거버넌스 선행 / 비용 계측 / 사용자 신뢰 구축 순서로 실행
실패 사례: 프롬프트 하드코딩으로 모델 업그레이드 시 전체 재작업, 에이전트 권한 과다 부여로 의도치 않은 데이터 수정

왜 읽나조직에 AI 시스템을 처음 도입하거나 LLM 앱 아키텍처를 설계 중인 엔지니어라면, 실제 기업 환경에서 7개 시스템을 구축하며 검증한 패턴과 실패 교훈이 설계 결정에 직접적인 참고가 된다.

데보션 (SK) 블로그

원문은 여기서 이어서 읽을 수 있어요

원문 읽기

읽음 (0)

·takedown 요청

말하지 않고 만들었다 — AX를 코드로 구현한 6개월의 기록

이 글과 비슷한

에이전틱 SDLC를 QA 엔지니어링 마인드셋으로 구축하기

보안 업무를 위한 AI 에이전트 플랫폼 「SAGE」 개발기 1편: 판단은 사람에게 남기는 설계

실리콘투의 사내 지식 MCP 게이트웨이 구축기