Anthropic의 레드라인 — Lawfare 법률 분석

Anthropic이 국방부(DoD)를 상대로 소송을 제기한 건에 대해 Lawfare가 상세한 법률 분석을 내놓음. 저자는 소송 자체는 지지하지만, Anthropic이 제시한 두 가지 사용 제한 조건의 모호함을 비판함.

소송 배경

• Anthropic은 Claude에 두 가지 사용 제한을 걸어둠: (1) 치명적 자율 전쟁(lethal autonomous warfare) 금지, (2) 미국인 대상 대규모 감시(mass surveillance) 금지
• 국방부가 Claude를 "모든 합법적 용도"에 쓸 수 있게 해달라고 요구했고, Anthropic이 거부하자 트럼프 대통령이 모든 연방기관에 Anthropic 기술 사용 즉시 중단을 지시함
• 정부가 "공급망 리스크"로 지정한 것은 사용 제한에 대한 명백한 보복 조치임

"치명적 자율 전쟁" 분석

• UN 군축사무소도 인정하듯, 치명적 자율 무기 시스템(LAWS)에 대한 공통 정의 자체가 존재하지 않음
• Amodei CEO는 이 제한이 원칙의 문제가 아니라 현재 기술 한계의 문제라고 밝힘. 완전 자율 무기가 국방에 필수적일 수 있다고 인정하며 R&D는 하고 싶어함
• 그런데 미군도 현재 인간이 빠진 완전 자율 무기를 실전 배치하고 있지 않음. 그렇다면 이 분쟁은 사실상 현실에 존재하지 않는 케이스를 놓고 싸우는 것일 수 있음
• 미해결 질문: 방어용 자율 시스템(대미사일 방어 등)은 어떻게 할 것인가? 로봇을 타격하는 거라 "치명적"은 아니지만 낙하 파편으로 사람이 죽기도 함

"대규모 감시" 분석 — 더 큰 문제

• 합법적인 대규모 감시도 있음 — 펜타곤 앞에 카메라 설치하고 출입자 얼굴을 테러리스트 DB와 대조하는 것도 대규모 감시임
• 반면 영장 없이 미국인 통신을 대량 수집하는 건 명백히 불법
• Anthropic이 말하는 "대규모 감시"가 데이터 수집(collection)을 의미하는지, 이미 수집된 데이터의 분석(analysis)까지 포함하는지 불분명함
• 질병 감시(코로나 백신 접종 패턴), 거시경제 데이터 같은 것도 넓게 보면 대규모 감시인데, 이것까지 막겠다는 건 아닐 것임

저자의 제안

• 감시는 데이터 수집 행위에 한정하고, 합법적으로 취득한 데이터의 분석/처리는 제외해야 함
• 은밀한(covert) 감시에만 적용해야 함. 정부가 공개적으로 수행하는 질병·경제 데이터 수집은 제외
• 단, 통신 감시에만 한정하면 안 됨. 위성을 이용한 은밀한 대규모 감청, DNA 데이터베이스 구축, 의료 기록 대량 수집 등도 포함해야 함
• FISA 702(의회 승인, 개별 선택자 대상, 해외 비미국인 대상)는 허용하되, 행정명령 12333에 의한 수집은 제한하는 방식도 논의됨. 다만 이것도 통신에 한정되는 문제가 있음

ICE 문제와 결론

• 이 정의를 아무리 다듬어도 ICE의 이민 단속용 Claude 사용 문제는 해결 안 됨. 그건 군과의 계약이 아니라 ICE와 아예 거래하지 않는 것으로 풀어야 하는 별개의 문제임
• Anthropic의 입장은 정당하지만, 법정에서 자신의 레드라인이 구체적으로 무엇을 의미하는지 훨씬 더 명확하게 설명할 수 있어야 함