---
title: "정부, AI 기반 디지털 성범죄 자동 탐지 시스템 도입 — 건당 1분 이내 처리"
published: 2026-04-01T08:05:03.889Z
canonical: https://jeff.news/article/1453
---
# 정부, AI 기반 디지털 성범죄 자동 탐지 시스템 도입 — 건당 1분 이내 처리

성평등가족부가 딥페이크 탐지, 다단계 이미지 분석, 삭제 자동화 등 3대 AI 시스템을 도입. NCMEC·Cloudflare API 연동으로 우회 URL까지 자동 삭제 요청 가능.

성평등가족부가 디지털 성범죄 대응을 위해 AI 기반 3대 핵심 시스템을 도입함. SNS와 랜덤채팅앱 등에서 아동·청소년 성착취물과 유인정보를 24시간 자동으로 수집·분석하고, 신고 및 삭제요청까지 처리할 수 있게 됨.

**삭제요청 자동화**

- 약 2만 개 사이트에 대한 삭제요청부터 처리 이력 관리까지 전 과정이 자동화됨
- 건당 처리 시간을 1분 이내로 단축함
- 구글 콘텐츠 삭제 양식, 전기통신사업법 신고 양식도 자동 작성·발송됨

**아동·청소년 온라인 성착취 선제 대응**

- 국내 최초로 랜덤채팅앱 데이터 자동 수집 기술을 탑재함
- AI 모델이 다단계 분석을 수행함
  - 키워드 탐지
  - 이미지 내 텍스트 추출(OCR)
  - 신체 노출도 판단
  - 아동·청소년 여부 추정
  - 유사 이미지 대조
- 미국 NCMEC 및 Cloudflare와 API로 연계해 우회 접속 URL도 대량 자동 삭제요청이 가능해짐

**딥페이크 탐지**

- 육안으로 판별이 어려웠던 합성물을 정확히 식별할 수 있게 됨
- 온라인 모니터링 중 합성·편집물로 의심되는 영상물이 발견되면 딥페이크 탐지 솔루션을 적용함
- 피해자가 인지하지 못한 합성물도 찾아내 추가 유포를 사전에 차단함

**시범운영 결과 (25일간)**

- 종사자 1인당 일평균 수집 건수 변화:
  - 아동·청소년 성착취물: 2.7배 이상 증가
  - 성착취 유인정보: 80배 이상 증가

## 핵심 포인트

- 2만개 사이트 삭제요청 전 과정 자동화, 건당 1분 이내
- 다단계 AI 분석: 키워드→OCR→노출도→연령추정→유사이미지
- NCMEC·Cloudflare API 연동으로 우회 URL 대량 삭제
- 시범운영 25일: 수집 건수 2.7배~80배 증가

## 인사이트

기술적으로 보면 멀티모달 AI 파이프라인의 공공 적용 사례. 키워드→이미지→딥페이크까지 다단계로 쌓는 구조가 인상적.