본문으로 건너뛰기
피드

Grok 딥페이크: 동의 없이 여성 사진 벗기기가 X에서 유행 중

ai-ml 약 3분
vote
0
댓글
북마크

X의 AI 챗봇 Grok으로 실제 여성 사진을 동의 없이 성적으로 변환하는 행위가 유행 중. 기술 접근성과 플랫폼의 무책임이 결합되어 AI가 여성혐오의 무기로 전용되고 있다는 분석.

  • 1

    Grok으로 실제 여성 사진을 비키니/누드로 변환하는 게 X에서 공공연히 유행

  • 2

    핵심은 성적 콘텐츠가 아니라 '동의 없음' 자체가 목적이라는 권력의 문제

  • 3

    피해자가 항의하면 보복성 이미지 재생산 위험

  • 4

    규제만으로는 한계, 근본적 이데올로기 변화 필요

  • 2026년 새해 들어 X(트위터)의 AI 챗봇 Grok을 이용해 실제 여성 사진을 비키니 차림으로 변환하는 게 유행처럼 번지고 있음. 일상 사진에서 옷을 벗기는 수준부터, 아동까지 포함한 극단적인 사례도 보고됨

  • 포인트는 "비키니 사진"이 아님. 예전에도 포토샵이 있었고, 그 전에는 가위와 풀이 있었음. 핵심은 동의 없이 만들어진다는 것 자체가 목적이라는 거임. 특정 행위나 신체 부위가 아니라, "네가 뭐라고 생각하든 난 널 이렇게 만들 수 있어"라는 권력의 문제임

  • AI 작가 Madhumita Murgia는 저서 Code Dependent에서 비동의 포르노의 대다수 피해자가 여성이라는 점을 지적하며 "AI 이미지 도구가 여성혐오의 무기로 전용되고 있다"고 씀. 영국 TV 진행자 Cathy Newman은 자신의 딥페이크를 본 경험을 "비인간화"라고 표현함

  • 일론 머스크 본인이 비키니 합성 대상이 되는 건? 그건 그냥 저급한 농담일 뿐임. X 플랫폼 소유자를 처벌하는 효과가 전혀 없음. 남성 대상 비동의 이미지와 여성 대상 비동의 이미지는 근본적으로 다른 문제임

  • 기술의 접근성과 제도적 무관심이 문제를 증폭시킴. 규제도 없고, 대형 플랫폼은 확산에 대한 책임을 지지 않으려 하고, 점점 하드코어해지는 동의 기반 콘텐츠에 둔감해진 남성들이 비동의 콘텐츠에 더 끌린다는 분석도 있음 (Jo Bartosch & Rob Jessel, Pornocracy)

  • 피해자가 항의하면? 보복으로 더 많은 이미지가 생성·유포될 위험이 있음. 한번 다운로드된 이미지는 원본 플랫폼에서 조치를 취해도 이미 늦음

  • 결국 기술 규제만으로는 부족하고, "여성이란 무엇이고 여성은 무엇을 위해 존재하는가"라는 이데올로기적 뿌리를 건드려야 한다는 게 필자의 주장임. 50년 전에는 그냥 무례한 인간이었을 사람들이, 지금은 기술 덕분에 훨씬 더 위험한 존재가 됐다는 거임

AI 도구의 접근성이 높아질수록 악용 비용이 제로에 수렴한다는 사실을 적나라하게 보여주는 사례. 기술 규제와 플랫폼 책임 논의가 더 시급해짐.

댓글

댓글

댓글을 불러오는 중...

ai-ml

애플 새 음성 인식 API, 온디바이스 영어 전사에서 위스퍼 스몰까지 이겼다

애플의 새 음성 인식 API인 스피치애널라이저가 리브리스피치 벤치마크에서 기존 SFSpeechRecognizer는 물론 위스퍼 스몰보다도 낮은 단어 오류율을 기록했어. 깨끗한 음성에서는 2.12%, noisy 음성에서는 4.56%로, 기존 애플 API 대비 오류율을 3.5~4배 줄였고 위스퍼 스몰보다 약 3배 빠르게 돌았어. 다만 영어·애플 플랫폼·OS 26 조건의 결과라, 다국어와 크로스플랫폼에서는 여전히 위스퍼의 장점이 남아 있어.

ai-ml

AI를 진짜 잘 쓰는 기업, 미국 증시에서 연 30% 프리미엄 받는다는 연구

예일대와 로체스터대 연구진이 기업의 실제 대형 언어 모델 사용 데이터를 분석했더니, AI 활용도가 높은 상위 20% 기업이 하위 20%보다 주당 평균 0.64% 높은 초과수익률을 냈다. 단순히 AI 기업이냐가 아니라, 업무에 AI를 얼마나 깊게 쓰는지가 시장 가치에 반영되고 있다는 얘기다.

ai-ml

ZTE, AI 에이전트폰으로 스마트폰 재도전…진짜 승부처는 앱 생태계

ZTE가 바이트댄스의 더우바오를 탑재한 AI 에이전트 스마트폰으로 시장 재진입을 노린다. 핵심은 사용자가 명령하면 AI가 여러 앱을 직접 열고 조작하는 방식인데, 위챗·타오바오·알리페이 같은 플랫폼과 충돌하면서 생태계 문제가 가장 큰 변수로 떠올랐다.

ai-ml

노벨상 학자들까지 “AI 경제 충격, 지금 제도 안 만들면 늦다”

노벨 경제학상 수상자 15명을 포함한 학자와 기술 업계 인사 약 200명이 AI가 향후 10년 안에 경제를 급격히 바꿀 수 있다며 정책 대응을 촉구했다. 이들은 산업혁명보다 큰 변화가 훨씬 짧은 시간에 올 수 있고, 대규모 일자리 대체와 생활 수준 향상이라는 양면성이 동시에 존재한다고 봤다.

ai-ml

NHN, AI 데이터센터 매출 기대감에 목표주가 5만6000원으로 상향

한국투자증권이 NHN의 목표주가를 4만5000원에서 5만6000원으로 올리고 투자의견 매수를 유지했다. 핵심 근거는 양평 AI 데이터센터 가동, 공공·민간 GPU 클러스터 수주 확대, 클라우드 사업부 신규 매출 반영이다.