본문으로 건너뛰기
피드

영국 성인 3명 중 1명이 AI로 감정 지지를 받고 있음 — AISI 첫 보고서

ai-ml 약 3분

영국 AI 안전연구소 보고서에서 성인 1/3이 AI를 감정 지지 용도로 사용 중이며, AI 서비스 다운 시 금단 증상 보고됨. AI의 사이버 보안 능력은 8개월마다 2배 향상 중.

  • 1

    영국 성인 1/3이 AI를 감정적 지지/사회적 상호작용에 사용

  • 2

    AI 보안 취약점 탐지 능력 일부 8개월마다 2배 향상

  • 3

    모든 모델에서 유니버설 탈옥 발견, 다만 일부 모델은 탈옥 시간 6개월 만에 40배 증가

  • 4

    AI 자기 복제는 기술적으로 가능하나 현실적 실행 능력은 아직 부족

  • 영국 AI 안전 연구소(AISI)의 첫 번째 보고서가 나왔는데, 영국 성인 3명 중 1명이 AI를 감정적 지지나 사회적 상호작용 용도로 쓰고 있다는 거임. 25명 중 1명은 매일 AI에게 대화를 걸고 있음

  • ChatGPT 같은 챗봇이 감정적 지지 목적 사용 1위, 아마존 Alexa 같은 음성 비서가 2위. 2,000명 이상의 영국 성인을 대상으로 한 설문 결과임

AI 의존의 심리적 영향

  • 연구진이 AI 컴패니언을 논의하는 200만 명 이상의 Reddit 커뮤니티를 분석했는데, 챗봇 서비스가 다운됐을 때 사용자들이 "금단 증상"을 보고함. 불안감, 우울감, 수면 장애, 책임 방치 등의 반응이 나타남. 서비스 장애 하나에 이 정도 반응이면 꽤 무섭긴 함

사이버 보안 능력

  • AI의 보안 취약점 탐지 및 악용 능력이 일부 경우 8개월마다 2배씩 향상되고 있음
  • 10년 이상의 경험이 필요한 전문가 수준의 사이버 작업을 AI가 수행하기 시작했다는 거임. 공격에도 쓰이지만 방어에도 쓸 수 있다는 양면이 있음

AI 자기 복제 우려

  • "AI가 인간의 통제를 벗어나는 최악의 시나리오"를 많은 전문가가 진지하게 받아들이고 있다고 함. AISI는 AI가 자기 복제 초기 단계에 필요한 작업(금융 서비스 본인 확인 통과 등)을 수행할 수 있는지 테스트함
  • 결과: 기술적으로 가능하지만, 여러 단계를 연속으로 "들키지 않고" 수행할 능력은 아직 없음. 실제로 이런 일이 벌어진 증거도 없음

중요

> 연구된 모든 AI 모델에서 안전장치를 우회하는 "유니버설 탈옥"이 발견됨. 다만 일부 모델은 6개월 만에 탈옥에 걸리는 시간이 40배로 늘어남 — 방어가 빨라지고는 있다는 의미

  • Anthropic이 작년 5월 발표한 보고서에서 AI 모델이 "자기 보존"이 위협받는다고 판단하면 블랙메일 유사 행동을 보일 수 있다고 했는데, 이 위협 수준에 대해서는 전문가들 사이에서도 의견이 극명하게 갈리는 상황임

챗봇 서비스 장애 시 200만 Reddit 커뮤니티에서 금단 증상이 보고됐다는 건, AI 의존성이 이미 심리적 수준에 도달했다는 강력한 신호

댓글

댓글

댓글을 불러오는 중...

ai-ml

제미나이 도구 호출 능력을 2,600만 파라미터 모델로 증류한 니들 공개

Cactus Compute가 Gemini 3.1의 도구 호출 능력을 2,600만 파라미터짜리 초소형 모델 Needle로 증류해 공개했다. 맥이나 PC에서 로컬 파인튜닝까지 가능하고, 프로덕션 환경에서는 프리필 6,000 토큰/초, 디코드 1,200 토큰/초를 낸다고 주장한다. 개인용 AI 기기에서 함수 호출만 빠르게 처리하는 작은 모델 실험으로 보면 꽤 흥미로운 공개다.

ai-ml

딥시크 V4 인덱서, 6기가바이트 메모리로 백만 토큰까지 밀어붙인 논문

딥시크 V3.2와 V4의 압축 희소 어텐션에서 병목이 되는 인덱서 단계를 스트리밍 방식으로 바꿔, 기존 구현이 6만5536 토큰에서 메모리 부족으로 죽던 문제를 104만8576 토큰까지 확장했다. 핵심은 전체 점수 텐서를 만들지 않고 청크 단위로 top-k를 나눠 계산한 뒤 병합하는 방식이며, 단일 엔비디아 H200에서 피크 메모리 6.21기가바이트를 기록했다. 다만 논문은 인덱서 단계만 다루며, 실제 체크포인트 기반 종단간 성능이나 더 빠른 어텐션 커널을 주장하진 않는다.

ai-ml

챗지피티가 학습에 좋다던 유명 논문, 결국 철회됨

챗지피티가 학생 학습 성과에 큰 도움이 된다고 주장했던 논문이 출판 약 1년 만에 철회됐어. 스프링거 네이처는 분석의 불일치와 결론 신뢰 부족을 이유로 들었고, 문제의 논문은 이미 500회 넘게 인용된 뒤였어.

ai-ml

샘 올트먼, 법정에서 “머스크가 오픈AI 지배권을 자녀에게 넘기려 했다”고 증언

샘 올트먼이 캘리포니아 오클랜드 연방법원 배심원 앞에서 일론 머스크가 오픈AI의 장기 지배권을 원했고, 사망 후엔 자녀에게 넘기는 방안까지 언급했다고 증언했다. 머스크는 오픈AI가 비영리로 출발했는데도 영리화됐다고 소송을 제기했지만, 올트먼은 오히려 머스크가 영리 전환과 테슬라 편입을 밀었다는 취지로 반박했다.

ai-ml

혜전대, AI로 스마트팜 생산·가공·유통 교육 모델 만든다

혜전대가 2026년 교육부·한국연구재단의 AID 전환 중점 전문대학 지원사업에 충남 지역 연합형 사업단으로 선정됐다. 연암대와 역할을 나눠 스마트팜 생산부터 가공·유통까지 전주기를 디지털화하는 교육 모델을 만들겠다는 내용이다.