---
title: "정부, 온라인 자살 유발 정보에 AI 24시간 모니터링 도입한다"
published: 2026-07-28T07:05:02.159Z
canonical: https://jeff.news/article/5123
---
# 정부, 온라인 자살 유발 정보에 AI 24시간 모니터링 도입한다

정부가 미디어와 온라인 영역의 자살 예방 대책을 발표하며 AI 기반 24시간 모니터링 센터 도입을 예고했다. 언론 보도 준칙 위반 공개, 지원사업 제한, 플랫폼 약관 개정, 긴급조치권 추진까지 포함된 정책 패키지다.

- 정부가 온라인 자살 유발 정보를 AI로 24시간 모니터링하는 체계로 바꾸겠다고 발표함
  - 문체부가 관계부처 합동으로 ‘미디어·온라인 분야 자살예방 범정부 추진 대책’을 국무회의에서 공개함
  - 큰 방향은 생산, 유통, 보호 3축으로 건강한 미디어·온라인 환경을 만들겠다는 것

- 배경은 모방 위험과 온라인 확산 문제임
  - 유명인 사건은 심리적 동조와 모방으로 이어지는 ‘베르테르 증후군’ 우려가 있음
  - 청소년의 정보 습득이 온라인 중심으로 옮겨간 상황에서, 온라인에 유통되는 유해 정보가 증가 추세라고 정부는 봄

- 언론 쪽에는 보도 준칙을 더 세게 적용하겠다는 내용이 들어감
  - 경찰 형사과장 대상 언론대응지침 배포와 교육을 통해 보도 현장 관리를 강화함
  - 유명인, 일가족, 청소년 관련 사안처럼 모방 위험이 큰 경우 언론사에 보도 자제를 당부할 계획
  - 보도 준칙 위반 건수는 분기별로 공개하고, 일정 횟수 이상 누적된 매체는 한국언론진흥재단 지원사업 참여를 제한하는 방안도 포함됨

- 플랫폼 쪽 핵심은 기존 인력 중심 감시에서 AI 기반 24시간 모니터링 센터로 전환하는 것임
  - 지금까지는 전담 인력과 국민 모니터링단 중심이었다면, 앞으로는 AI를 활용해 더 빠르게 탐지하고 확산을 막겠다는 방향
  - 정보통신사업자가 위법성과 조치 사항을 이용자에게 알리도록 이용약관 개정도 추진함

> [!NOTE]
> AI 모더레이션은 “더 빨리 찾는다”는 장점이 있지만, 공공 정책에서는 오탐과 과잉 차단 문제도 같이 봐야 함. 특히 민감한 표현을 다루는 영역일수록 사람의 검토와 이의제기 절차가 중요해짐.

- 심의와 수사 권한도 강화하는 쪽으로 설계됨
  - 방송미디어통신심의위원회의 서면심의 대상을 확대하고, 심의 전이라도 사업자에게 직접 시정을 요구할 수 있는 긴급조치권 도입을 추진함
  - 악의적이거나 수익 목적의 유해 정보는 시도경찰청 사이버수사대가 집중 수사할 계획
  - 조사 과정에서 고위험자로 의심되는 사람은 지자체 자살예방센터로 인계해 보호 조치한다는 내용도 있음

- 예방 교육과 캠페인도 같이 묶임
  - 연령별 고민 상황을 드라마 형식으로 제작하고, 상황별 대처 방법과 도움 기관 정보를 제공할 예정
  - 청소년 미디어이해력 교육에 자살예방 교육을 연계하고, 종교계와 생명 존중 캠페인도 추진함

- 개발자 입장에서 볼 포인트는 공공 AI 모더레이션이 실제 운영 정책 안으로 들어왔다는 점임
  - 탐지 모델의 정확도, 데이터셋 편향, 플랫폼별 조치 API, 감사 로그, 사용자 이의제기 흐름이 없으면 기술만으로 해결되기 어려운 주제
  - “AI가 24시간 본다”는 문장보다 중요한 건, 탐지 이후 누가 어떤 기준으로 어떤 조치를 내리는지임

## 핵심 포인트

- 정부는 온라인 자살 유발 정보를 기존 인력 중심 모니터링에서 AI 기반 24시간 모니터링 체계로 전환할 계획이다.
- 보도 준칙 위반이 반복되는 언론매체에는 위반 건수 공개와 정부 지원사업 참여 제한이 추진된다.
- 플랫폼에는 이용약관 개정, 심의 전 시정 요구, 악의적 정보에 대한 사이버수사 강화가 함께 따라붙는다.

## 인사이트

개발자 관점에서는 AI 모더레이션이 공공 안전 정책의 핵심 도구로 들어오는 사례다. 다만 24시간 감시 체계는 정확도, 오탐, 표현의 자유, 플랫폼 책임 범위를 같이 설계하지 않으면 바로 논쟁이 커질 수밖에 없다.