---
title: "딥페이크 성범죄가 계속 터지는 이유, 기술 장벽이 너무 낮아졌다"
published: 2026-05-15T07:05:04.109Z
canonical: https://jeff.news/article/2708
---
# 딥페이크 성범죄가 계속 터지는 이유, 기술 장벽이 너무 낮아졌다

딥페이크 성범죄가 늘어나는 배경으로 오픈소스 AI 모델과 해외 플랫폼 유통망이 지목됐다. 2025년 합성·편집 피해는 1616건으로 전년보다 16.8% 증가했고, 워터마크나 국내 규제만으로는 음성 유통을 막기 어렵다는 지적이 나온다.

- 딥페이크 성범죄가 계속 늘고 있음
  - 성평등가족부 등의 ‘2025년 디지털성범죄 피해자 지원 보고서’ 기준, 딥페이크를 포함한 합성·편집 피해는 1616건임
  - 전년 1384건에서 16.8% 증가한 수치임
  - 기술 자체는 얼굴이나 음성을 실제처럼 조작하는 AI 합성 기술인데, 문제는 범죄 제작 장벽이 너무 낮아졌다는 점임

- 예전처럼 전문 편집 기술이 필요한 시대가 아님
  - 누구나 내려받아 쓸 수 있는 오픈소스 AI 모델이 퍼지면서 일반인도 합성물을 만들 수 있게 됨
  - 빅테크의 생성형 AI 서비스는 음란물 생성 요청을 차단하는 안전장치를 두지만, 개인이 받은 오픈소스 모델은 중앙에서 일괄 통제하기 어려움
  - 모델을 자기 컴퓨터에서 실행하고 수정할 수 있으면, 특정 플랫폼을 막아도 제작 자체를 원천 차단하기가 빡셈

> [!WARNING]
> 오픈소스 모델은 한 번 퍼지면 회수할 수 없다는 게 핵심 리스크임. 서비스 차단과 앱스토어 정책만으로는 이미 복제된 도구까지 막기 어렵다.

- 실제 유통 경로도 꽤 노골적임
  - 타인의 얼굴을 다른 신체에 합성해 음란 이미지를 만드는 이른바 누디파이 앱은 애플·구글 앱스토어에서 금지된 뒤에도 변형 버전이 계속 노출되고 있음
  - 이런 앱 다운로드 수는 수천 회에서 수만 회까지 나온다고 보도됨
  - AI 프로그램을 모아둔 해외 사이트에서는 얼굴 합성, 영상 생성, 불법 영상 제작에 악용 가능한 도구를 쉽게 찾을 수 있음

- 해외 플랫폼은 딥페이크 성착취물 유통망 역할을 하고 있음
  - X에서 ‘딥페’, ‘합사’ 같은 키워드를 검색하면 제작·판매 홍보글과 텔레그램 방 링크가 이어져 나온다고 함
  - 게시자들은 해시태그, 링크, 메시지 기능을 이용해 플랫폼 적발을 피하려고 함
  - 지난 4월에는 10대가 텔레그램으로 특정인의 개인정보와 딥페이크 성착취물을 함께 올린 사건도 있었음

- 올해 1월 22일부터 시행된 AI 기본법도 한계가 있음
  - AI로 사진·음성·영상을 만들면 AI 생성물이라는 사실을 표시하도록 규정함
  - 하지만 워터마크는 다른 프로그램으로 쉽게 제거될 수 있음
  - 텔레그램처럼 음성적으로 유통되는 성착취물에는 표시 의무를 적용하기도 쉽지 않음

- 그래서 업계에서는 국제 공조와 플랫폼 책임을 같이 봐야 한다고 말함
  - 부다페스트 사이버범죄협약은 국가 간 전자증거 보전과 자료 제공 요청을 빠르게 처리하기 위한 국제조약임
  - 미국과 일본 등은 가입했지만, 한국은 가입을 추진 중이고 아직 국회 비준 절차를 끝내지 못함
  - 해외 서버와 해외 플랫폼을 타고 퍼지는 딥페이크 수사에는 이런 공조 체계가 실효성을 좌우할 수 있음

- 탐지 기술과 워터마크도 국제 표준으로 묶자는 얘기가 나옴
  - 염흥열 순천향대 정보보호학과 명예교수는 자율규제만으로는 한계가 있다고 봄
  - 딥페이크 탐지 기술과 워터마크 기술의 국제 표준을 만들고, 플랫폼 사업자에게 의무 적용하도록 규제를 강화해야 한다는 주장임
  - 결국 제작 차단, 유통 차단, 피해 대응을 따로 보면 계속 뚫리고, 플랫폼·수사·기술 표준이 같이 움직여야 하는 문제임

## 핵심 포인트

- 2025년 딥페이크 포함 합성·편집 피해는 1616건으로 전년 대비 16.8% 증가
- 오픈소스 AI 모델은 공개 후 회수가 어려워 제작 차단이 사실상 힘듦
- 누디파이 앱과 해외 사이트, 텔레그램, X가 제작·홍보·유통 경로로 쓰이고 있음
- AI 기본법의 생성 표시 의무는 워터마크 제거와 음성 유통 때문에 한계가 있음
- 부다페스트 사이버범죄협약 같은 국제 공조와 플랫폼 책임 강화가 대안으로 거론됨

## 인사이트

이 문제는 ‘나쁜 사람이 AI를 쓴다’ 수준이 아니라, 모델 배포 구조와 플랫폼 유통 구조가 범죄 대응 속도보다 빠르다는 얘기임. 개발자 입장에서도 오픈소스, 워터마크, 플랫폼 책임을 한꺼번에 봐야 하는 보안·정책 이슈에 가까움.