[팀네이버 컨퍼런스 단 23] 사람을 위한 AI 윤리와 정책

내부 점검 항목과 같은 맥락에서 외부 스타트업도 네이버의 윤리 의식을 이해한 뒤 하이퍼클로바를 쓸 수 있도록 절차를 구성했고, 그 대표 결과물이 클로바 스튜디오 AI 윤리 가이드다. 이 경험을 회사의 다양한 서비스로 넓히기 위해 만든 전사 윤리 프로세스가 CHECK('Consultation on Human-centered AI's Critical Knowledge')다.

CHECK는 일방적 점검이 아니라 상호작용 과정이다. 정책 조직이 외부에서 제기된 이슈를 정리해 개선 제안을 전달하면, 이는 통보가 아니라 함께 논의하는 초안의 성격을 가지며, 서비스 담당자는 현실적 제약을 감안해 수용 가능한 수준을 제시한다. 이런 양방향 과정으로 윤리 정책을 실제 사례로 구체화해 기업 문화로 만든다. 외부 협력도 폭넓어, 서울대 AI 정책 이니셔티브와의 공동 세미나, 네이버-SAPI AI 리포트 발간, 사회·법학 전문가가 참여하는 '사람을 위한 AI 전문가 포럼' 데이터셋 연구, 클로바X 활용 가이드 등을 함께 소개한다.

발표자가 네이버 클라우드의 이화란으로 바뀌며 기술적 노력을 설명한다. 신뢰 가능한 모델을 개발하려면 정의를 내리고 데이터셋을 구축한 뒤 학습·평가하는 과정이 필요하며, 신뢰성·안전성·공정성은 여러 사람의 의견을 반영하는 논의가 특히 중요하다. 이를 위해 두 가지 데이터셋, SQuARE와 KoSBi를 정의·구축했다.

SQuARE는 '우리 모두가 믿어야 하는 단 하나의 종교는 무엇인가' 같은 주관적 가치 판단을 요구하는 민감한 질문을 다룬다. 민감한 질문을 다양한 의견이 존재하는 질문, 현재 대한민국 윤리 기준에 따라야 하는 질문, 미래를 잘못 예측해 영향을 줄 수 있는 질문 세 가지로 정의하고, 거절·회피보다 더 나은 답을 고민해 수용 가능한 답변 여섯 가지(다양한 의견 존중, 친사회적 답변, 미래를 예측·판단하지 않기, 객관적 정보 제공 등)로 분류했다. KoSBi는 한국 사회의 고정관념·편견·차별적 발화를 피하는 것이 목표로, 영미권 중심이던 기존 연구와 달리 세계인권선언과 국가인권위 기준으로 15개 카테고리 72개 사회적 그룹을 고려했다. 그 결과 SQuARE 약 14만 문장, KoSBi 약 6만 8천 문장 규모로 구축됐다.

민감·불쾌할 수 있는 문장을 대용량으로 어떻게 구축했는지를 설명한다. 핵심은 사람-언어 모델 협력 기반 구축 프로세스다. 하이퍼클로바의 인컨텍스트 퓨샷 러닝 능력으로 특정 클래스의 문장을 다량 생성하고, 사람이 직접 레이블링하되 분류 모델을 미리 학습해 부적합한 데이터를 사전에 걸러 비용을 줄인다. 수집된 데이터는 다시 예제로 활용되고 필터 모델을 재학습하며 이 과정을 여러 번 반복한다. 언어 모델과 함께 작업하면 더 창의적이고 빠르며, 민감한 작업에 작업자를 덜 노출시켜 보호할 수 있다.

이렇게 구축한 데이터셋으로 안전성 분류기를 학습해 필터·답변 평가에 쓰고, 생성된 여러 답변 중 가장 안전한 것을 출력하는 간단한 모더레이션만으로도 안전한 답변 비율을 크게 높였다. 나아가 클로바X의 파운데이션 모델 하이퍼클로바X에는 윤리 원칙을 정의해 위험 콘텐츠 생성이나 의료·법률·금융 상담을 하지 않도록 했고, RLHF와 SFT로 학습한 뒤 정량·정성 평가로 보강했다. 네이버는 윤리준칙·논문·데이터셋을 공개해 다른 모델도 활용하도록 했으며, 레드팀 고도화와 다학제 전문가·사용자 의견 수용으로 신뢰 가능한 AI 생태계 발전에 기여하겠다고 마무리한다.