본문으로 건너뛰기
피드

캐나다, 총기 난사범 계정 차단하고도 경찰에 안 알린 OpenAI 조사 착수

ai-ml 약 4분
vote
0
댓글
북마크

OpenAI가 2025년 6월 ChatGPT에서 폭력 시나리오를 묘사한 사용자의 계정을 차단하고도 캐나다 경찰에 통보하지 않았는데, 해당 사용자가 2026년 2월 Tumbler Ridge에서 8명을 살해하는 총기 난사를 저질렀음. 캐나다 AI 장관이 OpenAI를 소환해 안전 프로토콜과 법 집행기관 에스컬레이션 기준에 대한 해명을 요구하고 있음.

  • 1

    OpenAI가 2025년 6월 폭력 활동으로 계정 차단했으나 '임박한 위협'이 아니라고 판단해 경찰 미신고

  • 2

    해당 사용자가 8개월 후 학교에서 학생 5명 포함 8명을 살해

  • 3

    캐나다 AI 장관이 OpenAI 안전 담당자를 오타와로 소환

  • 4

    OpenAI는 사건 후에야 RCMP에 연락했고, 사건 다음날 미팅에서도 계정 차단 사실 미공개

  • 5

    캐나다 정부가 AI 챗봇 규제 및 미성년자 사용 제한 검토 중

사건 개요

  • 2025년 6월, OpenAI의 자동 리뷰 시스템이 ChatGPT 사용자 Jesse Van Rootselaar의 계정에서 "폭력 활동 조장" 관련 활동을 감지하고 계정을 차단했음
  • 이 사용자는 며칠에 걸쳐 ChatGPT에 총기를 이용한 폭력 시나리오를 묘사했지만, OpenAI는 "신뢰할 만한 또는 임박한 계획"이 확인되지 않는다며 캐나다 법 집행기관에 통보하지 않았음
  • 2026년 2월 10일, 18세였던 Van Rootselaar는 Tumbler Ridge에서 8명을 살해함. 피해자 중 5명은 12~13세 학생이었고, 39세 교사 보조원도 포함됨. 학교 공격 전에는 자택에서 어머니와 이복형제를 먼저 살해했음

캐나다 정부의 대응

  • 캐나다 AI 장관 Evan Solomon은 이 사실에 "깊은 우려"를 표하며 OpenAI 대표를 오타와로 소환했음
  • 안전 프로토콜과 법 집행기관으로의 에스컬레이션 기준에 대한 설명을 요구하고 있음
  • 캐나다 연방정부는 현재 AI 챗봇 규제 방안을 검토 중이며, 미성년자의 자유로운 사용 범위도 논의 대상에 포함되어 있음

OpenAI의 뒤늦은 대응이 논란

  • WSJ 보도에 따르면, OpenAI 직원들이 작년에 캐나다 왕립기마경찰(RCMP)에 알리는 것을 검토했었지만 결국 실행하지 않았음
  • 총기 난사 사건 이후에야 OpenAI가 RCMP에 연락했고, 이를 "선제적 조치"로 포장했지만 비판을 받고 있음
  • 브리티시컬럼비아 주정부에 따르면, 사건 다음 날 사전에 잡혀 있던 미팅에서 OpenAI 측은 몇 달 전 해당 계정을 차단한 사실을 밝히지 않았음. 총기 난사 이틀 후에야 RCMP 연락처를 알려달라고 주정부에 요청한 것으로 확인됨
  • Van Rootselaar는 Roblox에서도 무기로 가득 찬 가상 쇼핑몰을 만들어 플레이어끼리 총을 쏠 수 있게 한 것으로 알려짐

정치권 반응

  • 브리티시컬럼비아 주지사 David Eby는 OpenAI가 사건 전에 "관련 정보"를 갖고 있었다는 사실이 피해자 가족과 주민 모두에게 "심각하게 우려스러운 일"이라고 밝힘

AI 기업의 위험 사용자 감지 능력과 법 집행기관 통보 의무 사이의 간극이 드러난 사건으로, 글로벌 AI 규제 논의에서 신고 의무 조항이 핵심 쟁점으로 부상할 가능성이 높음.

댓글

댓글

댓글을 불러오는 중...

ai-ml

애플 새 음성 인식 API, 온디바이스 영어 전사에서 위스퍼 스몰까지 이겼다

애플의 새 음성 인식 API인 스피치애널라이저가 리브리스피치 벤치마크에서 기존 SFSpeechRecognizer는 물론 위스퍼 스몰보다도 낮은 단어 오류율을 기록했어. 깨끗한 음성에서는 2.12%, noisy 음성에서는 4.56%로, 기존 애플 API 대비 오류율을 3.5~4배 줄였고 위스퍼 스몰보다 약 3배 빠르게 돌았어. 다만 영어·애플 플랫폼·OS 26 조건의 결과라, 다국어와 크로스플랫폼에서는 여전히 위스퍼의 장점이 남아 있어.

ai-ml

AI를 진짜 잘 쓰는 기업, 미국 증시에서 연 30% 프리미엄 받는다는 연구

예일대와 로체스터대 연구진이 기업의 실제 대형 언어 모델 사용 데이터를 분석했더니, AI 활용도가 높은 상위 20% 기업이 하위 20%보다 주당 평균 0.64% 높은 초과수익률을 냈다. 단순히 AI 기업이냐가 아니라, 업무에 AI를 얼마나 깊게 쓰는지가 시장 가치에 반영되고 있다는 얘기다.

ai-ml

ZTE, AI 에이전트폰으로 스마트폰 재도전…진짜 승부처는 앱 생태계

ZTE가 바이트댄스의 더우바오를 탑재한 AI 에이전트 스마트폰으로 시장 재진입을 노린다. 핵심은 사용자가 명령하면 AI가 여러 앱을 직접 열고 조작하는 방식인데, 위챗·타오바오·알리페이 같은 플랫폼과 충돌하면서 생태계 문제가 가장 큰 변수로 떠올랐다.

ai-ml

노벨상 학자들까지 “AI 경제 충격, 지금 제도 안 만들면 늦다”

노벨 경제학상 수상자 15명을 포함한 학자와 기술 업계 인사 약 200명이 AI가 향후 10년 안에 경제를 급격히 바꿀 수 있다며 정책 대응을 촉구했다. 이들은 산업혁명보다 큰 변화가 훨씬 짧은 시간에 올 수 있고, 대규모 일자리 대체와 생활 수준 향상이라는 양면성이 동시에 존재한다고 봤다.

ai-ml

NHN, AI 데이터센터 매출 기대감에 목표주가 5만6000원으로 상향

한국투자증권이 NHN의 목표주가를 4만5000원에서 5만6000원으로 올리고 투자의견 매수를 유지했다. 핵심 근거는 양평 AI 데이터센터 가동, 공공·민간 GPU 클러스터 수주 확대, 클라우드 사업부 신규 매출 반영이다.