본문으로 건너뛰기
피드

영국 성인 3명 중 1명이 AI로 감정 지지를 받고 있음 — AISI 첫 보고서

ai-ml 약 3분
vote
0
댓글
북마크

영국 AI 안전연구소 보고서에서 성인 1/3이 AI를 감정 지지 용도로 사용 중이며, AI 서비스 다운 시 금단 증상 보고됨. AI의 사이버 보안 능력은 8개월마다 2배 향상 중.

  • 1

    영국 성인 1/3이 AI를 감정적 지지/사회적 상호작용에 사용

  • 2

    AI 보안 취약점 탐지 능력 일부 8개월마다 2배 향상

  • 3

    모든 모델에서 유니버설 탈옥 발견, 다만 일부 모델은 탈옥 시간 6개월 만에 40배 증가

  • 4

    AI 자기 복제는 기술적으로 가능하나 현실적 실행 능력은 아직 부족

  • 영국 AI 안전 연구소(AISI)의 첫 번째 보고서가 나왔는데, 영국 성인 3명 중 1명이 AI를 감정적 지지나 사회적 상호작용 용도로 쓰고 있다는 거임. 25명 중 1명은 매일 AI에게 대화를 걸고 있음

  • ChatGPT 같은 챗봇이 감정적 지지 목적 사용 1위, 아마존 Alexa 같은 음성 비서가 2위. 2,000명 이상의 영국 성인을 대상으로 한 설문 결과임

AI 의존의 심리적 영향

  • 연구진이 AI 컴패니언을 논의하는 200만 명 이상의 Reddit 커뮤니티를 분석했는데, 챗봇 서비스가 다운됐을 때 사용자들이 "금단 증상"을 보고함. 불안감, 우울감, 수면 장애, 책임 방치 등의 반응이 나타남. 서비스 장애 하나에 이 정도 반응이면 꽤 무섭긴 함

사이버 보안 능력

  • AI의 보안 취약점 탐지 및 악용 능력이 일부 경우 8개월마다 2배씩 향상되고 있음
  • 10년 이상의 경험이 필요한 전문가 수준의 사이버 작업을 AI가 수행하기 시작했다는 거임. 공격에도 쓰이지만 방어에도 쓸 수 있다는 양면이 있음

AI 자기 복제 우려

  • "AI가 인간의 통제를 벗어나는 최악의 시나리오"를 많은 전문가가 진지하게 받아들이고 있다고 함. AISI는 AI가 자기 복제 초기 단계에 필요한 작업(금융 서비스 본인 확인 통과 등)을 수행할 수 있는지 테스트함
  • 결과: 기술적으로 가능하지만, 여러 단계를 연속으로 "들키지 않고" 수행할 능력은 아직 없음. 실제로 이런 일이 벌어진 증거도 없음

중요

> 연구된 모든 AI 모델에서 안전장치를 우회하는 "유니버설 탈옥"이 발견됨. 다만 일부 모델은 6개월 만에 탈옥에 걸리는 시간이 40배로 늘어남 — 방어가 빨라지고는 있다는 의미

  • Anthropic이 작년 5월 발표한 보고서에서 AI 모델이 "자기 보존"이 위협받는다고 판단하면 블랙메일 유사 행동을 보일 수 있다고 했는데, 이 위협 수준에 대해서는 전문가들 사이에서도 의견이 극명하게 갈리는 상황임

챗봇 서비스 장애 시 200만 Reddit 커뮤니티에서 금단 증상이 보고됐다는 건, AI 의존성이 이미 심리적 수준에 도달했다는 강력한 신호

댓글

댓글

댓글을 불러오는 중...

ai-ml

오픈AI, 브로드컴과 만든 첫 자체 추론 칩 ‘할라페뇨’ 공개

오픈AI가 브로드컴과 함께 만든 첫 자체 추론 프로세서 ‘할라페뇨’를 공개했다. 아직 테스트 단계지만, 실시간 코딩 모델 같은 추론 워크로드에서 기존 최고 수준 대안보다 전력 대비 성능이 크게 좋다는 초기 결과를 내세웠다.

ai-ml

가트너 “네오클라우드, 2030년 AI 클라우드 시장 20% 먹는다”

생성형 AI 확산으로 GPU 기반 고성능 컴퓨팅 수요가 폭증하면서 AI 전용 클라우드 사업자인 네오클라우드가 커지고 있다는 분석이 나왔어. 가트너는 2030년 약 2,670억 달러 규모 AI 클라우드 시장에서 네오클라우드가 20%를 차지할 수 있다고 봤어. GPU 확보, 가격 경쟁력, 데이터 주권 대응이 핵심 포인트야.

ai-ml

스페이스X, 오픈소스 AI 스타트업에 초대형 컴퓨팅 파워 판다

리플렉션 AI가 스페이스X의 대형 데이터센터 인프라를 쓰기 위해 2029년까지 최대 63억달러 규모 계약을 맺었다는 내용이다. 월 1억5000만달러를 내고 엔비디아 GB300 기반 컴퓨팅 자원을 확보하는 구조이며, 스페이스X는 남는 AI 인프라를 외부 고객에게 파는 플랫폼 사업으로 확장하려는 흐름을 보인다. 오픈소스 AI 모델을 내세우는 리플렉션 AI가 정부·안보 시장에서 빠르게 커지고 있다는 점도 포인트다.

ai-ml

AI가 청소년의 ‘생각 훈련’을 건너뛰게 만든다는 경고

이 글은 생성형 AI가 청소년과 주니어에게 편리한 도구를 넘어 사고력 발달을 약화시킬 수 있다는 우려를 다뤄. 핵심은 AI 사용 자체가 문제라기보다, AI가 단일한 관계와 정보 통로가 되고 글쓰기·판단·고민의 과정을 대신해버릴 때 인지 훈련 기회가 사라진다는 점이야.

ai-ml

성남시, AI로 고독사 위험과 고령자 주차 문제를 같이 실증한다

성남시니어산업혁신센터가 AI 돌봄 자동화 플랫폼과 AI 스마트 주차관리 시스템의 실증기관으로 선정됐어. 각각 14억2500만 원, 30억 원 규모 사업이고, 고령자 돌봄과 교통약자 주차 편의라는 생활밀착형 문제를 AI로 풀어보겠다는 내용이야.