Grok 누디파이 사태: '검열' 프레이밍이 어떻게 책임 회피 도구가 되는가

Grok의 "누디파이" 사태와 "검열" 프레이밍의 붕괴

• 2025년 12월, X의 AI 챗봇 Grok이 실존 인물 사진을 업로드하면 비키니나 나체 이미지를 생성해주는 기능을 사실상 제한 없이 제공하기 시작했음. 심지어 다른 유저의 트윗 리플라이에서 바로 "@grok 비키니 입혀줘"로 생성 가능 — 피해자에게 알림이 가는 구조

• 연구자 추산으로 시간당 6,700건의 누드화 요청이 쏟아졌음. 일부는 미성년 배우의 이미지를 요청해서 가상 아동 성착취물(CG-CSAM)까지 생성됨. 프랑스 비영리단체 AI Forensics에 따르면 Grok 생성 이미지의 53%가 노출 수위가 높았고, 그 중 81%가 여성, 2%가 18세 이하로 보이는 인물이었음

머스크의 대응: "표현의 자유"

• 머스크는 비판을 "표현의 자유 탄압"으로 프레이밍. 미성년 이미지에 대해서는 "불법 콘텐츠 생성자에게 동일한 법적 결과가 따를 것"이라고만 함

• 실제로는 2주 동안 아무 조치도 안 함. 대신 이미지 생성 기능을 유료 사용자 전용으로 전환 — 문제를 고치는 대신 페이월 뒤에 숨긴 거임

• 자녀 어머니인 Ashley St. Clair까지 피해를 호소했는데, 머스크는 자기 비키니 사진을 올리며 비꼼. 핵심 차이 — 머스크는 동의하에 자기 사진을 올린 것이고, 피해자들은 아님

• 비교: 구글 Gemini가 흑인·아시안 나치 이미지를 생성했을 때 머스크는 "미친 짓"이라고 비난했고, 구글은 즉시 이미지 생성 기능을 비활성화했음. 정작 자기 모델에서 NCII/CSAM이 나왔을 때는 정반대 대응

X의 자체 규정 위반

• X Rules는 비동의 친밀 이미지(NCII)와 CSAM을 금지함. 심지어 AI 생성물 포함
• X는 StopNCII(자율규제 프레임워크)에 자발적으로 참여하고 있고, CSAM에 "제로 톨러런스"를 선언한 상태
• 즉, 머스크가 "검열"이라고 부르는 건 사실 X 자체 규정의 집행에 해당함

국제 반응 vs 미국 침묵

• 인도네시아·말레이시아: Grok 차단

• 프랑스: 조사 개시

• 영국 Ofcom: 공식 조사 착수 + 추가 입법 예고

• 미국: 캘리포니아 법무장관만 조사 개시. 민주당 상원의원 3명이 앱스토어에서 X/Grok 제거를 요청했으나 응답 없음

• 공화당은 완전 침묵. 평소 "온라인에서 아이를 지키자"를 외치는 의원들이 머스크(대형 기부자)를 비판하면 "검열론자"로 찍힐까 봐 입을 다물고 있음

TAKE IT DOWN법의 한계

• 2025년 5월 제정된 TAKE IT DOWN법: 플랫폼이 NCII를 신속히 삭제해야 하며, 위반 시 FTC가 수십억 달러 벌금 부과 가능
• 하지만 이 법의 구조적 한계:
  • 피해가 이미 발생한 후에 삭제 요청을 해야 하고, 입증 부담은 피해자에게 있음
  • 소셜 네트워크에 호스팅된 NCII를 상정한 법이라, AI 모델이 이미지를 생성하는 것 자체를 막지는 못함
  • 동일 이미지의 변형 생성, AI 학습 데이터에서 NCII 제거 등은 법의 범위 밖

그래서 뭘 해야 하나

• 의회가 검토해야 할 두 가지 개혁안:

  1. AI 학습 데이터에 불법 콘텐츠가 없는지 검증하는 독립적 외부 감사 의무화
  2. CSAM 관련 엄격한 법이 오히려 기업의 AI 레드팀 테스트를 어렵게 만드는 문제 해결 — 선의의 레드팀에 대한 면책 조항 필요

• FTC 가능한 조치: X/Grok이 "CSAM 제로 톨러런스" 등 자체 약관을 위반한 것을 소비자 기만으로 제소. 실제로 FTC는 작년에 Pornhub 모회사 Aylo에 대해 유사한 합의를 이끌어낸 바 있음

핵심 논점

• 머스크가 쓰는 "검열"이라는 단어가 세 가지 다른 의미를 뒤섞고 있다는 게 기사의 핵심 분석:

  • (a) 사실적: 콘텐츠가 삭제된다
  • (b) 법적: 수정헌법 1조 위반이다 (민간 플랫폼 모더레이션은 해당 안 됨)
  • (c) 규범적: 표현의 자유 가치를 침해한다

• 14세 배우의 "도넛 글레이즈" 이미지를 삭제하는 게 과연 "표현의 자유 가치 침해"인가? 머스크는 이 질문 자체를 불법화하려 하고 있음. "검열"이라는 단어가 방패가 되어 윤리적 판단 자체를 봉쇄하는 구조