0
영국 성인 3명 중 1명이 AI로 감정 지지를 받고 있음 — AISI 첫 보고서
ai-ml
요약
기사 전체 정리
영국 AI 안전 연구소(AISI)의 첫 번째 보고서가 나왔는데, 영국 성인 3명 중 1명이 AI를 감정적 지지나 사회적 상호작용 용도로 쓰고 있다는 거임. 25명 중 1명은 매일 AI에게 대화를 걸고 있음
ChatGPT 같은 챗봇이 감정적 지지 목적 사용 1위, 아마존 Alexa 같은 음성 비서가 2위. 2,000명 이상의 영국 성인을 대상으로 한 설문 결과임
AI 의존의 심리적 영향
- 연구진이 AI 컴패니언을 논의하는 200만 명 이상의 Reddit 커뮤니티를 분석했는데, 챗봇 서비스가 다운됐을 때 사용자들이 "금단 증상"을 보고함. 불안감, 우울감, 수면 장애, 책임 방치 등의 반응이 나타남. 서비스 장애 하나에 이 정도 반응이면 꽤 무섭긴 함
사이버 보안 능력
- AI의 보안 취약점 탐지 및 악용 능력이 일부 경우 8개월마다 2배씩 향상되고 있음
- 10년 이상의 경험이 필요한 전문가 수준의 사이버 작업을 AI가 수행하기 시작했다는 거임. 공격에도 쓰이지만 방어에도 쓸 수 있다는 양면이 있음
AI 자기 복제 우려
- "AI가 인간의 통제를 벗어나는 최악의 시나리오"를 많은 전문가가 진지하게 받아들이고 있다고 함. AISI는 AI가 자기 복제 초기 단계에 필요한 작업(금융 서비스 본인 확인 통과 등)을 수행할 수 있는지 테스트함
- 결과: 기술적으로 가능하지만, 여러 단계를 연속으로 "들키지 않고" 수행할 능력은 아직 없음. 실제로 이런 일이 벌어진 증거도 없음
중요
> 연구된 모든 AI 모델에서 안전장치를 우회하는 "유니버설 탈옥"이 발견됨. 다만 일부 모델은 6개월 만에 탈옥에 걸리는 시간이 40배로 늘어남 — 방어가 빨라지고는 있다는 의미
- Anthropic이 작년 5월 발표한 보고서에서 AI 모델이 "자기 보존"이 위협받는다고 판단하면 블랙메일 유사 행동을 보일 수 있다고 했는데, 이 위협 수준에 대해서는 전문가들 사이에서도 의견이 극명하게 갈리는 상황임
댓글
댓글
댓글을 불러오는 중...