본문으로 건너뛰기
피드

Grok 딥페이크: 동의 없이 여성 사진 벗기기가 X에서 유행 중

ai-ml 약 3분
vote
0
댓글
북마크

X의 AI 챗봇 Grok으로 실제 여성 사진을 동의 없이 성적으로 변환하는 행위가 유행 중. 기술 접근성과 플랫폼의 무책임이 결합되어 AI가 여성혐오의 무기로 전용되고 있다는 분석.

  • 1

    Grok으로 실제 여성 사진을 비키니/누드로 변환하는 게 X에서 공공연히 유행

  • 2

    핵심은 성적 콘텐츠가 아니라 '동의 없음' 자체가 목적이라는 권력의 문제

  • 3

    피해자가 항의하면 보복성 이미지 재생산 위험

  • 4

    규제만으로는 한계, 근본적 이데올로기 변화 필요

  • 2026년 새해 들어 X(트위터)의 AI 챗봇 Grok을 이용해 실제 여성 사진을 비키니 차림으로 변환하는 게 유행처럼 번지고 있음. 일상 사진에서 옷을 벗기는 수준부터, 아동까지 포함한 극단적인 사례도 보고됨

  • 포인트는 "비키니 사진"이 아님. 예전에도 포토샵이 있었고, 그 전에는 가위와 풀이 있었음. 핵심은 동의 없이 만들어진다는 것 자체가 목적이라는 거임. 특정 행위나 신체 부위가 아니라, "네가 뭐라고 생각하든 난 널 이렇게 만들 수 있어"라는 권력의 문제임

  • AI 작가 Madhumita Murgia는 저서 Code Dependent에서 비동의 포르노의 대다수 피해자가 여성이라는 점을 지적하며 "AI 이미지 도구가 여성혐오의 무기로 전용되고 있다"고 씀. 영국 TV 진행자 Cathy Newman은 자신의 딥페이크를 본 경험을 "비인간화"라고 표현함

  • 일론 머스크 본인이 비키니 합성 대상이 되는 건? 그건 그냥 저급한 농담일 뿐임. X 플랫폼 소유자를 처벌하는 효과가 전혀 없음. 남성 대상 비동의 이미지와 여성 대상 비동의 이미지는 근본적으로 다른 문제임

  • 기술의 접근성과 제도적 무관심이 문제를 증폭시킴. 규제도 없고, 대형 플랫폼은 확산에 대한 책임을 지지 않으려 하고, 점점 하드코어해지는 동의 기반 콘텐츠에 둔감해진 남성들이 비동의 콘텐츠에 더 끌린다는 분석도 있음 (Jo Bartosch & Rob Jessel, Pornocracy)

  • 피해자가 항의하면? 보복으로 더 많은 이미지가 생성·유포될 위험이 있음. 한번 다운로드된 이미지는 원본 플랫폼에서 조치를 취해도 이미 늦음

  • 결국 기술 규제만으로는 부족하고, "여성이란 무엇이고 여성은 무엇을 위해 존재하는가"라는 이데올로기적 뿌리를 건드려야 한다는 게 필자의 주장임. 50년 전에는 그냥 무례한 인간이었을 사람들이, 지금은 기술 덕분에 훨씬 더 위험한 존재가 됐다는 거임

AI 도구의 접근성이 높아질수록 악용 비용이 제로에 수렴한다는 사실을 적나라하게 보여주는 사례. 기술 규제와 플랫폼 책임 논의가 더 시급해짐.

댓글

댓글

댓글을 불러오는 중...

ai-ml

유튜브, AI 생성 영상에 자동 라벨 붙인다

유튜브가 사실적으로 보이거나 의미 있게 AI로 변경·생성된 콘텐츠에 더 눈에 띄는 라벨을 적용하고, 제작자가 AI 사용 여부를 밝히지 않아도 내부 신호로 감지되면 자동 라벨을 붙이겠다고 밝혔다. 다만 라벨만으로 추천 노출이나 수익화 자격이 바뀌지는 않으며, 제작자는 YouTube Studio에서 잘못된 판정을 수정할 수 있다.

ai-ml

테크 CEO들의 'AI 만능론', 숫자는 아직 그렇게 말하지 않는다

테크 업계에서 AI를 이유로 한 대규모 감원과 조직 재편이 이어지는 가운데, Box 창업자 애런 레비는 CEO들이 실제 업무의 마지막 1마일을 모른 채 AI 에이전트의 능력을 과대평가하고 있다고 지적했다. 2026년 첫 5개월 동안 이미 11만5430명이 해고됐고, 여러 연구는 AI 도입이 체감 생산성만큼 실제 생산성을 끌어올렸다는 근거가 아직 약하다고 말한다.

ai-ml

오픈AI와 앤트로픽, 코딩 에이전트로 드디어 돈 되는 시장을 찾은 듯

사이먼 윌리슨은 오픈AI와 앤트로픽이 코딩 에이전트와 기업용 과금으로 진짜 제품-시장 적합성을 찾았다고 봐. 개인 구독자에게는 월 100달러 플랜이 싸게 느껴지지만, 기업 고객은 이제 사용량 기준 토큰 가격을 그대로 내기 시작했고 이게 대형 고객 예산을 빠르게 흔들고 있다는 얘기야.

ai-ml

컴팔과 GMI 클라우드, 대규모 추론용 AI 인프라 구축 협력

컴팔이 실리콘밸리 기반 AI 인프라 기업 GMI 클라우드와 협력해 대규모 추론과 에이전틱 AI 워크로드에 맞춘 GPU 서버 인프라를 구축한다고 발표했어. COMPUTEX 2026에서는 NVIDIA HGX B300을 지원하는 Compal SGX30-2 같은 고성능 AI 서버 플랫폼도 선보일 예정이야.

ai-ml

AI 쓰면 편해진다더니, 직장인들은 ‘AI 과부하’에 지쳐가는 중

국내 직장인들이 AI 전환 압박, AI 답변 검증 부담, 대체 불안 때문에 피로감을 호소하고 있어. 중앙일보 설문에서는 5284명 중 31.6%가 ‘AI 답변 검증에 시간이 더 걸릴 때’를 가장 지치는 순간으로 꼽았고, 기업들은 무작정 AI 사용량을 밀어붙이는 방식에서 업무 방식 재설계로 넘어가야 한다는 지적이 나와.