딥페이크 성범죄가 계속 터지는 이유, 기술 장벽이 너무 낮아졌다

딥페이크 성범죄가 계속 늘고 있음

• 성평등가족부 등의 ‘2025년 디지털성범죄 피해자 지원 보고서’ 기준, 딥페이크를 포함한 합성·편집 피해는 1616건임
• 전년 1384건에서 16.8% 증가한 수치임
• 기술 자체는 얼굴이나 음성을 실제처럼 조작하는 AI 합성 기술인데, 문제는 범죄 제작 장벽이 너무 낮아졌다는 점임

예전처럼 전문 편집 기술이 필요한 시대가 아님

• 누구나 내려받아 쓸 수 있는 오픈소스 AI 모델이 퍼지면서 일반인도 합성물을 만들 수 있게 됨
• 빅테크의 생성형 AI 서비스는 음란물 생성 요청을 차단하는 안전장치를 두지만, 개인이 받은 오픈소스 모델은 중앙에서 일괄 통제하기 어려움
• 모델을 자기 컴퓨터에서 실행하고 수정할 수 있으면, 특정 플랫폼을 막아도 제작 자체를 원천 차단하기가 빡셈

실제 유통 경로도 꽤 노골적임

• 타인의 얼굴을 다른 신체에 합성해 음란 이미지를 만드는 이른바 누디파이 앱은 애플·구글 앱스토어에서 금지된 뒤에도 변형 버전이 계속 노출되고 있음
• 이런 앱 다운로드 수는 수천 회에서 수만 회까지 나온다고 보도됨
• AI 프로그램을 모아둔 해외 사이트에서는 얼굴 합성, 영상 생성, 불법 영상 제작에 악용 가능한 도구를 쉽게 찾을 수 있음

해외 플랫폼은 딥페이크 성착취물 유통망 역할을 하고 있음

• X에서 ‘딥페’, ‘합사’ 같은 키워드를 검색하면 제작·판매 홍보글과 텔레그램 방 링크가 이어져 나온다고 함
• 게시자들은 해시태그, 링크, 메시지 기능을 이용해 플랫폼 적발을 피하려고 함
• 지난 4월에는 10대가 텔레그램으로 특정인의 개인정보와 딥페이크 성착취물을 함께 올린 사건도 있었음

올해 1월 22일부터 시행된 AI 기본법도 한계가 있음

• AI로 사진·음성·영상을 만들면 AI 생성물이라는 사실을 표시하도록 규정함
• 하지만 워터마크는 다른 프로그램으로 쉽게 제거될 수 있음
• 텔레그램처럼 음성적으로 유통되는 성착취물에는 표시 의무를 적용하기도 쉽지 않음

그래서 업계에서는 국제 공조와 플랫폼 책임을 같이 봐야 한다고 말함

• 부다페스트 사이버범죄협약은 국가 간 전자증거 보전과 자료 제공 요청을 빠르게 처리하기 위한 국제조약임
• 미국과 일본 등은 가입했지만, 한국은 가입을 추진 중이고 아직 국회 비준 절차를 끝내지 못함
• 해외 서버와 해외 플랫폼을 타고 퍼지는 딥페이크 수사에는 이런 공조 체계가 실효성을 좌우할 수 있음

탐지 기술과 워터마크도 국제 표준으로 묶자는 얘기가 나옴

• 염흥열 순천향대 정보보호학과 명예교수는 자율규제만으로는 한계가 있다고 봄
• 딥페이크 탐지 기술과 워터마크 기술의 국제 표준을 만들고, 플랫폼 사업자에게 의무 적용하도록 규제를 강화해야 한다는 주장임
• 결국 제작 차단, 유통 차단, 피해 대응을 따로 보면 계속 뚫리고, 플랫폼·수사·기술 표준이 같이 움직여야 하는 문제임