본문으로 건너뛰기
피드

Anthropic의 레드라인 — Lawfare 법률 분석

ai-ml 약 5분

Anthropic의 DoD 소송에 대한 Lawfare 법률 분석. 소송 자체는 지지하지만 '치명적 자율 전쟁'과 '대규모 감시' 두 제한 조건의 법적 모호함을 상세히 비판하고 구체적 재정의를 제안함.

  • 1

    Anthropic이 Claude 사용 제한(자율 전쟁·대규모 감시 금지)에 대한 보복으로 '공급망 리스크' 지정당해 소송 제기

  • 2

    치명적 자율 전쟁: LAWS 공통 정의 부재, 미군도 완전 자율 무기 미배치 상태라 분쟁이 사실상 가상의 케이스

  • 3

    대규모 감시: 법률 용어가 아니라 적용 범위 극도로 불명확. 합법적 감시와 불법 감시 모두 포함 가능

  • 4

    저자 제안: 영장 없는 은밀한 대량 데이터 수집에 한정하고, 합법 취득 데이터 분석은 제외할 것

  • 5

    ICE 문제는 별개 — 군 계약이 아닌 ICE와의 거래 자체를 안 하는 것으로 해결해야 함

Anthropic이 국방부(DoD)를 상대로 소송을 제기한 건에 대해 Lawfare가 상세한 법률 분석을 내놓음. 저자는 소송 자체는 지지하지만, Anthropic이 제시한 두 가지 사용 제한 조건의 모호함을 비판함.

소송 배경

  • Anthropic은 Claude에 두 가지 사용 제한을 걸어둠: (1) 치명적 자율 전쟁(lethal autonomous warfare) 금지, (2) 미국인 대상 대규모 감시(mass surveillance) 금지
  • 국방부가 Claude를 "모든 합법적 용도"에 쓸 수 있게 해달라고 요구했고, Anthropic이 거부하자 트럼프 대통령이 모든 연방기관에 Anthropic 기술 사용 즉시 중단을 지시함
  • 정부가 "공급망 리스크"로 지정한 것은 사용 제한에 대한 명백한 보복 조치임

"치명적 자율 전쟁" 분석

  • UN 군축사무소도 인정하듯, 치명적 자율 무기 시스템(LAWS)에 대한 공통 정의 자체가 존재하지 않음
  • Amodei CEO는 이 제한이 원칙의 문제가 아니라 현재 기술 한계의 문제라고 밝힘. 완전 자율 무기가 국방에 필수적일 수 있다고 인정하며 R&D는 하고 싶어함
  • 그런데 미군도 현재 인간이 빠진 완전 자율 무기를 실전 배치하고 있지 않음. 그렇다면 이 분쟁은 사실상 현실에 존재하지 않는 케이스를 놓고 싸우는 것일 수 있음
  • 미해결 질문: 방어용 자율 시스템(대미사일 방어 등)은 어떻게 할 것인가? 로봇을 타격하는 거라 "치명적"은 아니지만 낙하 파편으로 사람이 죽기도 함

"대규모 감시" 분석 — 더 큰 문제

⚠️주의

> "대규모 감시(mass surveillance)"는 미국 감시법에서 법률 용어가 아님. 기존 법률 체계에 매핑되지 않아서 실제 적용 범위가 극도로 불명확함.

  • 합법적인 대규모 감시도 있음 — 펜타곤 앞에 카메라 설치하고 출입자 얼굴을 테러리스트 DB와 대조하는 것도 대규모 감시임
  • 반면 영장 없이 미국인 통신을 대량 수집하는 건 명백히 불법
  • Anthropic이 말하는 "대규모 감시"가 데이터 수집(collection)을 의미하는지, 이미 수집된 데이터의 분석(analysis)까지 포함하는지 불분명함
  • 질병 감시(코로나 백신 접종 패턴), 거시경제 데이터 같은 것도 넓게 보면 대규모 감시인데, 이것까지 막겠다는 건 아닐 것임

저자의 제안

중요

> 저자는 "대규모 감시" 개념을 다음과 같이 재정의할 것을 제안함: 영장이나 법적 절차 없이, 은밀하게(covert), 미국 국민의 대량 데이터를 수집하는 정보 수집 활동에 Claude 사용을 금지하는 것.

  • 감시는 데이터 수집 행위에 한정하고, 합법적으로 취득한 데이터의 분석/처리는 제외해야 함
  • 은밀한(covert) 감시에만 적용해야 함. 정부가 공개적으로 수행하는 질병·경제 데이터 수집은 제외
  • 단, 통신 감시에만 한정하면 안 됨. 위성을 이용한 은밀한 대규모 감청, DNA 데이터베이스 구축, 의료 기록 대량 수집 등도 포함해야 함
  • FISA 702(의회 승인, 개별 선택자 대상, 해외 비미국인 대상)는 허용하되, 행정명령 12333에 의한 수집은 제한하는 방식도 논의됨. 다만 이것도 통신에 한정되는 문제가 있음

ICE 문제와 결론

  • 이 정의를 아무리 다듬어도 ICE의 이민 단속용 Claude 사용 문제는 해결 안 됨. 그건 군과의 계약이 아니라 ICE와 아예 거래하지 않는 것으로 풀어야 하는 별개의 문제임
  • Anthropic의 입장은 정당하지만, 법정에서 자신의 레드라인이 구체적으로 무엇을 의미하는지 훨씬 더 명확하게 설명할 수 있어야 함

Anthropic이 업계에서 유일하게 레드라인을 긋고 있다는 점은 높이 평가하지만, 법정에서 싸우려면 그 라인이 법적으로 무엇을 의미하는지 훨씬 정밀해야 한다는 실무적 조언. 특히 'mass surveillance'는 기존 미국 감시법 체계에 매핑되지 않는다는 점이 핵심 취약점.

댓글

댓글

댓글을 불러오는 중...

ai-ml

제미나이 도구 호출 능력을 2,600만 파라미터 모델로 증류한 니들 공개

Cactus Compute가 Gemini 3.1의 도구 호출 능력을 2,600만 파라미터짜리 초소형 모델 Needle로 증류해 공개했다. 맥이나 PC에서 로컬 파인튜닝까지 가능하고, 프로덕션 환경에서는 프리필 6,000 토큰/초, 디코드 1,200 토큰/초를 낸다고 주장한다. 개인용 AI 기기에서 함수 호출만 빠르게 처리하는 작은 모델 실험으로 보면 꽤 흥미로운 공개다.

ai-ml

딥시크 V4 인덱서, 6기가바이트 메모리로 백만 토큰까지 밀어붙인 논문

딥시크 V3.2와 V4의 압축 희소 어텐션에서 병목이 되는 인덱서 단계를 스트리밍 방식으로 바꿔, 기존 구현이 6만5536 토큰에서 메모리 부족으로 죽던 문제를 104만8576 토큰까지 확장했다. 핵심은 전체 점수 텐서를 만들지 않고 청크 단위로 top-k를 나눠 계산한 뒤 병합하는 방식이며, 단일 엔비디아 H200에서 피크 메모리 6.21기가바이트를 기록했다. 다만 논문은 인덱서 단계만 다루며, 실제 체크포인트 기반 종단간 성능이나 더 빠른 어텐션 커널을 주장하진 않는다.

ai-ml

챗지피티가 학습에 좋다던 유명 논문, 결국 철회됨

챗지피티가 학생 학습 성과에 큰 도움이 된다고 주장했던 논문이 출판 약 1년 만에 철회됐어. 스프링거 네이처는 분석의 불일치와 결론 신뢰 부족을 이유로 들었고, 문제의 논문은 이미 500회 넘게 인용된 뒤였어.

ai-ml

샘 올트먼, 법정에서 “머스크가 오픈AI 지배권을 자녀에게 넘기려 했다”고 증언

샘 올트먼이 캘리포니아 오클랜드 연방법원 배심원 앞에서 일론 머스크가 오픈AI의 장기 지배권을 원했고, 사망 후엔 자녀에게 넘기는 방안까지 언급했다고 증언했다. 머스크는 오픈AI가 비영리로 출발했는데도 영리화됐다고 소송을 제기했지만, 올트먼은 오히려 머스크가 영리 전환과 테슬라 편입을 밀었다는 취지로 반박했다.

ai-ml

혜전대, AI로 스마트팜 생산·가공·유통 교육 모델 만든다

혜전대가 2026년 교육부·한국연구재단의 AID 전환 중점 전문대학 지원사업에 충남 지역 연합형 사업단으로 선정됐다. 연암대와 역할을 나눠 스마트팜 생산부터 가공·유통까지 전주기를 디지털화하는 교육 모델을 만들겠다는 내용이다.