AI 유토피아 약속이 위험하다는 비판, 왜 테크 억만장자 세계관을 봐야 하나

트럼프가 취임 직후 발표한 스타게이트가 이 이야기의 출발점임.

• 오픈AI의 샘 올트먼, 소프트뱅크 손정의, 오라클 래리 엘리슨이 함께 등장함.
• 스타게이트는 초기 투자 1천억 달러, 향후 최대 5천억 달러를 투입해 차세대 AI 인프라를 짓겠다는 프로젝트임.
• 미국 전역에 데이터센터를 건설하고, 텍사스에서는 100만 제곱피트 규모 첫 프로젝트가 이미 진행 중이라고 소개됨.

문제는 AI 인프라가 그냥 ‘클라우드 좀 늘림’ 수준이 아니라는 점임.

• 국제에너지기구(IEA)에 따르면 대형 하이퍼스케일 데이터센터는 100MW 이상의 전력을 요구하는 경우가 늘고 있음.
• 이런 시설 하나의 연간 전력 사용량은 전기차 약 35만~40만 대의 전력 수요와 맞먹을 수 있음.
• AI 경쟁이 빨라질수록 전기와 물 같은 환경 자원 비용도 같이 커짐.

CBC가 주목한 비판자는 철학자이자 역사학자인 에밀 토레스임.

• 토레스는 일론 머스크, 피터 틸, 샘 올트먼 같은 테크 권력자들이 공유하는 장기주의(longtermism)와 트랜스휴머니즘(transhumanism)을 비판해온 인물임.
• 이들이 말하는 테크 유토피아는 인간이 포스트휴먼이 되고, 우주로 퍼져 나가고, 영원히 행복하게 사는 문명을 만든다는 식의 서사를 갖고 있다고 봄.

핵심 키워드는 TESCREAL임.

• 토레스와 컴퓨터 과학자 팀닛 게브루가 만든 용어로, 여러 테크 유토피아 사상 묶음을 비판적으로 부르는 말임.
• 기사에서는 특히 T인 트랜스휴머니즘과 L인 장기주의가 중요하다고 설명함.
• 이 세계관에서 인공 초지능(artificial superintelligence)은 멸망 아니면 유토피아를 가져올 결정적 존재처럼 다뤄짐.

토레스는 이 세계관이 종교적 구조를 닮았다고 봄.

• 인간의 한계를 초월하고, 구원과 부활을 약속하고, 결국 낙원에서 영원히 산다는 서사가 있다는 얘기임.
• 레이 커즈와일식 표현으로는 “영원히 살 만큼 오래 살아남기”가 있고, 냉동 보존 후 미래에 디지털 존재로 되살아나는 상상도 언급됨.
• 토레스는 AGI나 초지능을 “신 같은 AI”로 부르는 커뮤니티 감각도 지적함.

장기주의는 여기서 ‘갤럭시 브레인’ 역할을 함.

• 먼 미래 수백만 년, 수십억 년, 심지어 수조 년 동안 인류의 잠재력을 실현하려면 포스트휴먼이 돼야 한다는 생각임.
• 생물학적 몸을 기술적 기반으로 대체하거나, 시뮬레이션 세계 속 디지털 존재로 사는 미래까지 포함함.
• 우주를 최대한 식민화하고 더 많은 미래 인구를 만들어 총가치를 극대화해야 한다는 논리로 이어짐.

허황된 SF처럼 보여도, 토레스는 바로 그 지점이 위험하다고 말함.

• 이런 생각을 받아들이는 사람들이 실제로 막강한 돈과 정책 영향력을 갖고 있기 때문임.
• 기사에서는 장기주의가 유엔과 외교 정책 커뮤니티에서도 받아들여지기 시작했다는 2022년 보도까지 언급함.

정치적 연결도 기사에서 크게 다뤄짐.

• 일론 머스크는 트럼프와 가까운 권력자로 묘사되고, 피터 틸은 부통령 J.D. 밴스와 오랜 관계가 있는 인물로 소개됨.
• 샘 올트먼은 스타게이트 구축에 참여하고 있음.
• 토레스의 요지는 이들이 그냥 이상한 미래 얘기를 하는 사람들이 아니라, 지금 세계를 실제로 바꾸는 사람들이라는 것임.

토레스는 이 영향력이 저절로 사라질 거라고 낙관하지 않음.

• 오히려 테크 기업들이 단기간 대량 실업 같은 큰 사고를 일으켜 여론이 강하게 반발하는 상황이 와야 흐름이 끊길 수 있다고 봄.
• 그때 사람들이 “대체 어떤 세계관이 이런 결정을 밀어붙였나”라고 묻게 될 수 있다는 얘기임.

개발자 입장에서도 이건 그냥 철학 논쟁이 아님.

• AI 인프라가 어디에 지어지고, 어떤 모델이 우선되고, 어떤 위험이 무시되는지는 실제 제품 개발 환경에 영향을 줌.
• 모델 성능, API 가격, 데이터센터 전력, 규제, 저작권, 노동시장까지 전부 같은 흐름 안에서 연결돼 있음.