국제 AI Safety 움직임과 frontier model risk를 배경으로, 카카오가 세운 9개 responsible AI 원칙과 이를 실행하는 조직·기술 governance를 소개한다. 선언에 그치지 않고 model·service lifecycle 전반에서 위험을 발견·완화하는 체계로 어떻게 연결하는지 짚는다.
핵심 포인트- 의도적 악용·편향·개인정보·예측 못 한 model 행동을 product 출시 후에만 다룰 수 없다는 문제의식에서, 사회 윤리·인류 편익·차별 방지·개인정보·설명 책임 등 9개 원칙을 requirement·review·model 평가로 연결하고 기술·regulation 변화에 따라 versioning
- Jailbreak 같은 의도적 공격, 사용자 부주의, hallucination·bias 같은 model 불완전성을 risk source로 나누고, static 금칙어만으로 부족하다는 전제 아래 service context·피해 규모·발생 가능성으로 방어 우선순위 결정
- 한국어·문화와 실제 Kakao service 위험을 반영한 safety dataset을 category별로 만들고, 사람이 adversarial prompt를 설계하는 red teaming으로 취약점을 찾아 guardrail·model 개선·재평가에 출시 전 반복 투입
- 개인정보·법무·보안·policy·product 담당자가 따로 검토해 생기는 누락·지연을 줄이는 one-stop review로 risk·mitigation을 함께 기록하고, MLCommons taxonomy 등 공통 분류·평가 협력과 자체 dataset 공유로 상호운용성 제고
왜 읽나생성 AI 서비스의 안전을 조직 차원에서 제도화하려는 곳에, 원칙·red teaming·one-stop governance·국제 표준 협력을 엮은 카카오의 실행 프레임을 보여주는 사례.