본문으로 건너뛰기
피드

정부, AI 기반 디지털 성범죄 자동 탐지 시스템 도입 — 건당 1분 이내 처리

ai-ml 약 3분
vote
0
댓글
북마크

성평등가족부가 딥페이크 탐지, 다단계 이미지 분석, 삭제 자동화 등 3대 AI 시스템을 도입. NCMEC·Cloudflare API 연동으로 우회 URL까지 자동 삭제 요청 가능.

  • 1

    2만개 사이트 삭제요청 전 과정 자동화, 건당 1분 이내

  • 2

    다단계 AI 분석: 키워드→OCR→노출도→연령추정→유사이미지

  • 3

    NCMEC·Cloudflare API 연동으로 우회 URL 대량 삭제

  • 4

    시범운영 25일: 수집 건수 2.7배~80배 증가

성평등가족부가 디지털 성범죄 대응을 위해 AI 기반 3대 핵심 시스템을 도입함. SNS와 랜덤채팅앱 등에서 아동·청소년 성착취물과 유인정보를 24시간 자동으로 수집·분석하고, 신고 및 삭제요청까지 처리할 수 있게 됨.

삭제요청 자동화

  • 약 2만 개 사이트에 대한 삭제요청부터 처리 이력 관리까지 전 과정이 자동화됨
  • 건당 처리 시간을 1분 이내로 단축함
  • 구글 콘텐츠 삭제 양식, 전기통신사업법 신고 양식도 자동 작성·발송됨

아동·청소년 온라인 성착취 선제 대응

  • 국내 최초로 랜덤채팅앱 데이터 자동 수집 기술을 탑재함
  • AI 모델이 다단계 분석을 수행함
    • 키워드 탐지
    • 이미지 내 텍스트 추출(OCR)
    • 신체 노출도 판단
    • 아동·청소년 여부 추정
    • 유사 이미지 대조
  • 미국 NCMEC 및 Cloudflare와 API로 연계해 우회 접속 URL도 대량 자동 삭제요청이 가능해짐

딥페이크 탐지

  • 육안으로 판별이 어려웠던 합성물을 정확히 식별할 수 있게 됨
  • 온라인 모니터링 중 합성·편집물로 의심되는 영상물이 발견되면 딥페이크 탐지 솔루션을 적용함
  • 피해자가 인지하지 못한 합성물도 찾아내 추가 유포를 사전에 차단함

시범운영 결과 (25일간)

  • 종사자 1인당 일평균 수집 건수 변화:
    • 아동·청소년 성착취물: 2.7배 이상 증가
    • 성착취 유인정보: 80배 이상 증가

기술적으로 보면 멀티모달 AI 파이프라인의 공공 적용 사례. 키워드→이미지→딥페이크까지 다단계로 쌓는 구조가 인상적.

댓글

댓글

댓글을 불러오는 중...

ai-ml

애플 새 음성 인식 API, 온디바이스 영어 전사에서 위스퍼 스몰까지 이겼다

애플의 새 음성 인식 API인 스피치애널라이저가 리브리스피치 벤치마크에서 기존 SFSpeechRecognizer는 물론 위스퍼 스몰보다도 낮은 단어 오류율을 기록했어. 깨끗한 음성에서는 2.12%, noisy 음성에서는 4.56%로, 기존 애플 API 대비 오류율을 3.5~4배 줄였고 위스퍼 스몰보다 약 3배 빠르게 돌았어. 다만 영어·애플 플랫폼·OS 26 조건의 결과라, 다국어와 크로스플랫폼에서는 여전히 위스퍼의 장점이 남아 있어.

ai-ml

AI를 진짜 잘 쓰는 기업, 미국 증시에서 연 30% 프리미엄 받는다는 연구

예일대와 로체스터대 연구진이 기업의 실제 대형 언어 모델 사용 데이터를 분석했더니, AI 활용도가 높은 상위 20% 기업이 하위 20%보다 주당 평균 0.64% 높은 초과수익률을 냈다. 단순히 AI 기업이냐가 아니라, 업무에 AI를 얼마나 깊게 쓰는지가 시장 가치에 반영되고 있다는 얘기다.

ai-ml

ZTE, AI 에이전트폰으로 스마트폰 재도전…진짜 승부처는 앱 생태계

ZTE가 바이트댄스의 더우바오를 탑재한 AI 에이전트 스마트폰으로 시장 재진입을 노린다. 핵심은 사용자가 명령하면 AI가 여러 앱을 직접 열고 조작하는 방식인데, 위챗·타오바오·알리페이 같은 플랫폼과 충돌하면서 생태계 문제가 가장 큰 변수로 떠올랐다.

ai-ml

노벨상 학자들까지 “AI 경제 충격, 지금 제도 안 만들면 늦다”

노벨 경제학상 수상자 15명을 포함한 학자와 기술 업계 인사 약 200명이 AI가 향후 10년 안에 경제를 급격히 바꿀 수 있다며 정책 대응을 촉구했다. 이들은 산업혁명보다 큰 변화가 훨씬 짧은 시간에 올 수 있고, 대규모 일자리 대체와 생활 수준 향상이라는 양면성이 동시에 존재한다고 봤다.

ai-ml

NHN, AI 데이터센터 매출 기대감에 목표주가 5만6000원으로 상향

한국투자증권이 NHN의 목표주가를 4만5000원에서 5만6000원으로 올리고 투자의견 매수를 유지했다. 핵심 근거는 양평 AI 데이터센터 가동, 공공·민간 GPU 클러스터 수주 확대, 클라우드 사업부 신규 매출 반영이다.