Anthropic CEO 다리오 아모데이, 국방부의 AI 무제한 사용 요구에 '양심상 응할 수 없다' 성명 발표

• Anthropic CEO 다리오 아모데이가 미 국방부(Department of War)와의 갈등에 대해 공개 성명을 냈음. 핵심은 대규모 국내 감시(mass domestic surveillance)와 완전 자율 무기(fully autonomous weapons) 두 가지 용도에 대해서는 양보할 수 없다는 입장

Anthropic이 국방부에 해온 것들

• Anthropic은 사실 국방 분야에서 꽤 적극적이었음. 미국 정부 기밀 네트워크에 프론티어 AI 모델을 최초 배포한 회사가 바로 Anthropic이고, 국립연구소(National Laboratories)에도 처음 투입됨
• Claude는 이미 국방부 전반에서 정보 분석, 모델링/시뮬레이션, 작전 계획, 사이버 작전 등 미션 크리티컬 업무에 쓰이고 있음
• 중국 공산당 연계 기업에 Claude 사용을 차단하면서 수억 달러 매출을 포기했고, CCP가 후원하는 사이버 공격도 차단함. 단기 이익보다 미국의 AI 우위를 지키는 쪽을 택했다는 거임

두 가지 레드라인

• 대규모 국내 감시: 합법적 해외 정보/방첩 임무에 AI 쓰는 건 찬성함. 하지만 미국 시민을 대상으로 한 대규모 감시는 민주주의 가치와 양립 불가라는 입장. 현행법상 정부가 영장 없이 미국인의 이동, 웹 브라우징, 교제 기록을 구매할 수 있는데, AI가 이 흩어진 데이터를 개인의 완전한 프로필로 자동 조합할 수 있게 되면 문제가 차원이 달라진다는 거임
• 완전 자율 무기: 부분 자율 무기(우크라이나에서 쓰이는 것 같은)는 민주주의 방어에 필수적이라고 인정함. 완전 자율 무기도 언젠간 필요할 수 있지만, 현재 프론티어 AI 시스템은 완전 자율 무기를 구동할 만큼 신뢰성이 충분하지 않다는 게 핵심 논점. Anthropic이 국방부에 R&D 협력을 제안했지만 국방부가 거절했다고 함

국방부의 압박

• 국방부는 "모든 합법적 용도"에 동의하고 위 안전장치를 제거하는 AI 회사만 계약하겠다고 선언함
• 안전장치 유지하면 시스템에서 퇴출시키겠다고 위협하고, 더 나아가 "공급망 리스크"로 지정 (원래 적국에만 붙이는 라벨)하거나, 국방생산법(Defense Production Act)을 발동해서 안전장치를 강제 제거하겠다고 위협함

• 이런 위협에도 불구하고 Anthropic의 입장은 변하지 않음: "양심상 그 요구에 응할 수 없다(cannot in good conscience accede)"
• 만약 국방부가 Anthropic을 내보내기로 결정하면, 다른 프로바이더로의 원활한 전환을 돕겠다고 함. 진행 중인 군사 작전에 차질이 없도록 필요한 기간 동안 모델을 제공하겠다는 입장