앤트로픽, “스스로 개선하는 AI” 우려하며 개발 속도 조절 주장
클로드 개발사 앤트로픽이 최첨단 AI 모델 개발 속도를 늦추거나 일시 중단할 선택권을 세계가 가져야 한다고 주장했다. 자사 최신 모델들의 발전 속도를 근거로, 머지않아 AI가 인간 개입 없이 스스로 개선하는 단계에 도달할 수 있다는 우려를 제기했다.
- 1
앤트로픽이 최첨단 AI 개발 속도 조절 필요성을 공개적으로 언급
- 2
우려의 핵심은 인간 개입 없이 스스로 개선하는 AI 가능성
- 3
개발 중단 자체를 당장 요구했다기보다 세계가 속도를 늦출 선택권을 가져야 한다는 주장
- 4
AI 안전성과 거버넌스 논쟁이 모델 개발사 내부에서도 커지는 흐름
흥미로운 건 이 얘기를 외부 규제기관이 아니라 클로드를 만드는 앤트로픽이 직접 꺼냈다는 점이다. 모델 경쟁이 빨라질수록 “성능을 어디까지 밀어붙일 것인가”보다 “멈출 수 있는 장치가 있는가”가 더 중요한 질문이 되고 있다.
관련 기사
스코세이지도 생성형 AI로 스토리보드 만든다, 할리우드 금기가 흔들리는 중
마틴 스코세이지 감독이 독일 AI 스타트업 블랙포레스트랩스의 기술을 활용해 차기작 스토리보드를 만들었다고 밝혔다. 할리우드에서는 2023년 파업 이후 생성형 AI가 민감한 주제였지만, 거장 감독의 공개 지지로 제작 도구로서의 AI 논쟁이 다시 커지고 있다.
구글은 스페이스X GPU 11만 개를 빌리고, 미국 정부는 오픈AI 지분까지 들여다보는 중
미국 AI 경쟁이 모델 성능 싸움에서 GPU, 데이터센터, 정부 지분 구조까지 번지는 중이다. 구글은 스페이스X 데이터센터의 엔비디아 GPU 약 11만 개를 월 9억2000만 달러에 쓰기로 했고, 트럼프 행정부는 오픈AI 지분을 정부가 보유하는 방안까지 논의하고 있다.
AI 데이터센터 붐, 전기·물·땅을 얼마나 먹는지 숫자로 보면 꽤 세다
유엔대 보고서는 AI 데이터센터 확장이 전력, 물, 토지 사용을 빠르게 키우고 있다고 경고한다. 전 세계 데이터센터 전력 사용량은 448테라와트시 수준이고, 2030년에는 945테라와트시까지 늘어 전 세계 전력의 3%에 이를 수 있다는 분석이다. 다만 전문가들은 효율 개선, 온디바이스 컴퓨팅, 공공 AI, 환경 규제까지 함께 봐야 한다고 짚었다.
케임브리지대, AI가 설계한 범용 백신 1상 임상시험 완료
영국 케임브리지대 연구진이 주요 성분을 AI로 설계한 백신을 사람에게 시험한 결과를 발표했다. 목표는 코로나19, 사스, 메르스처럼 같은 계열의 여러 바이러스에 대응하는 범용 백신이며, 1상 시험에서는 안전성 확인에 초점이 맞춰졌다.
AI 답안이 로스쿨 교수 답안보다 더 낫다는 블라인드 테스트 결과
미국 14개 로스쿨의 계약법 교수 16명이 참여한 블라인드 평가에서 제미나이 2.5 프로와 노트북LM 답변이 인간 교수 답변보다 높은 평가를 받았다. 단순 암기가 아니라 가상 사례와 정책 질문처럼 법적 추론이 필요한 영역에서도 AI가 앞섰고, 유해한 오답 비율도 훨씬 낮았다.
댓글
댓글
댓글을 불러오는 중...