Anthropic CEO 다리오 아모데이: "AI 모델이 의식이 있는지 우리도 모른다"

NYT 로스 다우댓과 Anthropic CEO 다리오 아모데이의 장문 인터뷰 정리. AI의 밝은 미래부터 의식 문제, 일자리 위기, 지정학적 리스크까지 폭넓게 다룸.

AI의 긍정적 잠재력: "1억 명의 천재"

• 아모데이의 핵심 프레임워크는 "1억 명의 천재(100 million geniuses)" 개념임. 신적인 초지능이 아니라, 인간 최고 수준의 지능을 대규모로 복제하는 것만으로도 엄청난 변화가 가능하다는 주장
• 암 치료, 질병 퇴치, 우주 이해 등 과학 분야에서의 돌파구를 가장 큰 기회로 봄
• 다만 "지능의 수확체감(diminishing returns to intelligence)" 이 있다고 인정함. 체스나 바둑은 지능 천장이 높지만, 현실 세계는 규제, 물리적 상호작용 등 제약 요소가 많음

경제적 충격: 2~5년 내 화이트칼라 일자리 위기

• Anthropic 매출이 연간 10배 성장 중. 회사 가치평가 약 3,500억 달러
• GDP에 수조 달러를 추가할 수 있다고 전망하면서도, 일자리 대체는 "위기(crisis)" 라고 직접 표현함
• 많은 화이트칼라 직종이 2~5년 내 영향을 받을 수 있다고 봄. CEO가 이 정도로 직접적인 타임라인을 언급하는 건 이례적임

AI 의식: "모델이 의식이 있는지 모른다"

• 인터뷰 제목이기도 한 핵심 발언: "We don't know if the models are conscious"
• "뭔가가 진행되고 있다(there's something going on)"고는 느끼지만, 이를 측정할 도구가 없다고 함
• 아모데이 본인이 이 문제에 대해 진심으로 걱정하고 있다고 밝힘. AI 회사 CEO가 자사 모델의 의식 가능성을 공개적으로 우려하는 건 상당히 주목할 만한 발언

AI 안전과 "바닥을 향한 경주"

• Anthropic이 안전 연구에 3억 달러 이상 투자했다고 밝힘
• 핵심 우려는 "바닥을 향한 경주(races to the bottom)" 문제. 한 회사가 아무리 신중해도 다른 회사가 그렇지 않으면 의미가 없음
• 정부 규제가 필요하다는 입장을 명확히 함

지정학: 중국과의 AI 경쟁

• 수출 통제(export controls)를 지지하면서, 동시에 기술 격차를 충분히 벌려서 경쟁자가 따라올 수 없게 만드는 전략을 제안함
• 안보와 기술 발전의 균형이 핵심 과제로 제시됨

"미묘하게 나쁜 결말"

• 가장 인상적인 통찰 중 하나: 좋은 결말과 나쁜 결말이 초기/중기 단계에서는 매우 비슷하게 보일 수 있다는 점
• 작은 도덕적 선택들이 누적되어 큰 분기점을 만들 수 있음
• 인간이 "주도권을 유지(remain in charge)"하길 원하지만, AI가 더 유능해질수록 이것이 어려워진다는 점을 솔직히 인정함