본문으로 건너뛰기
피드

정부, AI 기반 디지털 성범죄 자동 탐지 시스템 도입 — 건당 1분 이내 처리

ai-ml 약 3분
vote
0
댓글
북마크

성평등가족부가 딥페이크 탐지, 다단계 이미지 분석, 삭제 자동화 등 3대 AI 시스템을 도입. NCMEC·Cloudflare API 연동으로 우회 URL까지 자동 삭제 요청 가능.

  • 1

    2만개 사이트 삭제요청 전 과정 자동화, 건당 1분 이내

  • 2

    다단계 AI 분석: 키워드→OCR→노출도→연령추정→유사이미지

  • 3

    NCMEC·Cloudflare API 연동으로 우회 URL 대량 삭제

  • 4

    시범운영 25일: 수집 건수 2.7배~80배 증가

성평등가족부가 디지털 성범죄 대응을 위해 AI 기반 3대 핵심 시스템을 도입함. SNS와 랜덤채팅앱 등에서 아동·청소년 성착취물과 유인정보를 24시간 자동으로 수집·분석하고, 신고 및 삭제요청까지 처리할 수 있게 됨.

삭제요청 자동화

  • 약 2만 개 사이트에 대한 삭제요청부터 처리 이력 관리까지 전 과정이 자동화됨
  • 건당 처리 시간을 1분 이내로 단축함
  • 구글 콘텐츠 삭제 양식, 전기통신사업법 신고 양식도 자동 작성·발송됨

아동·청소년 온라인 성착취 선제 대응

  • 국내 최초로 랜덤채팅앱 데이터 자동 수집 기술을 탑재함
  • AI 모델이 다단계 분석을 수행함
    • 키워드 탐지
    • 이미지 내 텍스트 추출(OCR)
    • 신체 노출도 판단
    • 아동·청소년 여부 추정
    • 유사 이미지 대조
  • 미국 NCMEC 및 Cloudflare와 API로 연계해 우회 접속 URL도 대량 자동 삭제요청이 가능해짐

딥페이크 탐지

  • 육안으로 판별이 어려웠던 합성물을 정확히 식별할 수 있게 됨
  • 온라인 모니터링 중 합성·편집물로 의심되는 영상물이 발견되면 딥페이크 탐지 솔루션을 적용함
  • 피해자가 인지하지 못한 합성물도 찾아내 추가 유포를 사전에 차단함

시범운영 결과 (25일간)

  • 종사자 1인당 일평균 수집 건수 변화:
    • 아동·청소년 성착취물: 2.7배 이상 증가
    • 성착취 유인정보: 80배 이상 증가

기술적으로 보면 멀티모달 AI 파이프라인의 공공 적용 사례. 키워드→이미지→딥페이크까지 다단계로 쌓는 구조가 인상적.

댓글

댓글

댓글을 불러오는 중...

ai-ml

유튜브, AI 생성 영상에 자동 라벨 붙인다

유튜브가 사실적으로 보이거나 의미 있게 AI로 변경·생성된 콘텐츠에 더 눈에 띄는 라벨을 적용하고, 제작자가 AI 사용 여부를 밝히지 않아도 내부 신호로 감지되면 자동 라벨을 붙이겠다고 밝혔다. 다만 라벨만으로 추천 노출이나 수익화 자격이 바뀌지는 않으며, 제작자는 YouTube Studio에서 잘못된 판정을 수정할 수 있다.

ai-ml

테크 CEO들의 'AI 만능론', 숫자는 아직 그렇게 말하지 않는다

테크 업계에서 AI를 이유로 한 대규모 감원과 조직 재편이 이어지는 가운데, Box 창업자 애런 레비는 CEO들이 실제 업무의 마지막 1마일을 모른 채 AI 에이전트의 능력을 과대평가하고 있다고 지적했다. 2026년 첫 5개월 동안 이미 11만5430명이 해고됐고, 여러 연구는 AI 도입이 체감 생산성만큼 실제 생산성을 끌어올렸다는 근거가 아직 약하다고 말한다.

ai-ml

오픈AI와 앤트로픽, 코딩 에이전트로 드디어 돈 되는 시장을 찾은 듯

사이먼 윌리슨은 오픈AI와 앤트로픽이 코딩 에이전트와 기업용 과금으로 진짜 제품-시장 적합성을 찾았다고 봐. 개인 구독자에게는 월 100달러 플랜이 싸게 느껴지지만, 기업 고객은 이제 사용량 기준 토큰 가격을 그대로 내기 시작했고 이게 대형 고객 예산을 빠르게 흔들고 있다는 얘기야.

ai-ml

컴팔과 GMI 클라우드, 대규모 추론용 AI 인프라 구축 협력

컴팔이 실리콘밸리 기반 AI 인프라 기업 GMI 클라우드와 협력해 대규모 추론과 에이전틱 AI 워크로드에 맞춘 GPU 서버 인프라를 구축한다고 발표했어. COMPUTEX 2026에서는 NVIDIA HGX B300을 지원하는 Compal SGX30-2 같은 고성능 AI 서버 플랫폼도 선보일 예정이야.

ai-ml

AI 쓰면 편해진다더니, 직장인들은 ‘AI 과부하’에 지쳐가는 중

국내 직장인들이 AI 전환 압박, AI 답변 검증 부담, 대체 불안 때문에 피로감을 호소하고 있어. 중앙일보 설문에서는 5284명 중 31.6%가 ‘AI 답변 검증에 시간이 더 걸릴 때’를 가장 지치는 순간으로 꼽았고, 기업들은 무작정 AI 사용량을 밀어붙이는 방식에서 업무 방식 재설계로 넘어가야 한다는 지적이 나와.