WhatsApp Scam Alert 아키텍처: 종단간 암호화를 유지하면서 온디바이스 ML로 사기 탐지

WhatsApp이 온디바이스 ML 모델로 사기 메시지를 감지하는 Scam Alert 기능을 구축하면서, 종단간 암호화를 깨지 않고 프라이버시를 보존하는 아키텍처를 공개했다. 핵심 전제는 메시지 내용이 디바이스 밖으로 나가지 않아야 한다는 것이며, 이를 위해 Trusted Execution Environment(TEE)와 연합 분석, 투명성 원장을 조합한다.

핵심 포인트

온디바이스 ML 모델만 사용 — 모든 추론이 기기 내에서 실행되며 메시지 내용이 서버로 전송되지 않는다.
TEE와 기밀 가상 머신(CVM)으로 집계 파이프라인을 구성해 Meta 내부 직원도 런타임 데이터에 접근할 수 없다.
차등 프라이버시(Differential Privacy)와 k-익명성을 적용해 개별 지표 대신 집계 노이즈 통계만 Meta에 전달한다.
모든 모델 버전의 SHA-256 해시를 제3자 append-only 투명성 원장에 배포 전 게시해 특정 사용자를 타겟으로 한 선택적 모델 배포를 차단한다.
OHTTP 릴레이로 IP 주소를 제거하고 익명 자격증명으로 모델 다운로드를 익명화한다.

상세 정리

설계 원칙: 온디바이스 처리만, 자동 신고 없음(사용자가 명시적으로 선택), 언제든 기능 비활성화 가능의 세 원칙을 아키텍처 요구사항으로 고정했다.
ML 모델 동작: 비연락처에서 온 메시지를 언어적·구조적 패턴으로 분석하며, 경고 수신자만 경고를 볼 수 있고 발신자는 자신이 플래그됐는지 알 수 없다.
기밀 연합 분석: 전송되는 데이터는 경고 카운트와 사용자 액션 카테고리(집계치)뿐으로, TEE 내 처리로 Meta 직원도 런타임 접근이 불가하다.
파이프라인 흐름: 디바이스 로컬 격리 저장소 수집 → OHTTP로 익명 접속 → 프라이버시 파라미터 검증 → 온디바이스 집계 → RA+TLS로 오케스트레이터 TEE 연결 → 집계 TEE에서 히스토그램 병합 → k-익명성·차등 프라이버시 적용 후 Meta에 전달.
위협 모델: 제3자 벤더, 악의적 내부자, 외부 공격자 세 범주를 상정하며 TEE 코드 격리, 암호화 DRAM, 투명성 원장으로 계층 방어한다.
모델 배포 안전장치: 모든 모델 변형이 Cloudflare(Meta가 아닌 제3자)가 서명한 투명성 원장에 게시된 후에만 CDN에 배포된다. 클라이언트는 Cloudflare 키로 서명을 검증하고 원장과 교차 확인한다.
실험 격리: A/B 테스트용 모델 변형도 클라이언트 측 로컬 랜덤으로 그룹을 결정하고 구성 변조 방지 체크를 포함해 타겟 공격 경로를 막는다.
독립 검증: 외부 연구자가 동일한 모델 가중치를 받아 투명성 원장과 대조 검증 가능하며, Bug Bounty 프로그램으로 조기 APK와 모델 가중치를 연구자에게 제공한다.

왜 읽나종단간 암호화를 깨지 않고 ML 기반 콘텐츠 안전 기능을 추가해야 하는 메신저·AI 앱 보안 엔지니어와 프라이버시 아키텍트에게 실전 설계 레퍼런스.

Meta Engineering 블로그

원문은 여기서 이어서 읽을 수 있어요

원문 읽기

읽음 (0)

·takedown 요청

WhatsApp Scam Alert 아키텍처: 종단간 암호화를 유지하면서 온디바이스 ML로 사기 탐지

이 글과 비슷한

Serena MCP 에이전트의 치명적 원격 코드 실행 취약점 분석

Node.js로 TOTP 기반 패스워드리스 인증 구현하기

Cloudflare의 MCP 트래픽 감지 및 보안 방법