본문으로 건너뛰기
0
r/jeffnews HN 약 4분

연방 판사, 펜타곤의 Anthropic 공급망 위험 지정 차단함

ai-ml

요약

연방 판사가 펜타곤이 Anthropic에 공급망 위험 딱지를 붙인 조치를 무기한 차단. 자율 무기·대규모 감시 거부한 Anthropic에 대한 보복이 수정헌법 제1조 위반이라고 판결. 수억 달러 규모 계약이 걸린 사안으로 국방부는 항소 예정.

기사 전체 정리

연방 판사, 펜타곤의 Anthropic 공급망 위험 지정 차단함

연방 판사가 펜타곤이 Anthropic에 공급망 위험(supply chain risk) 딱지를 붙인 조치를 무기한 차단하는 판결을 내렸음.

사건 경위

국방부가 Claude AI를 자율 무기와 대규모 감시에 쓸 수 있게 해달라고 했는데 Anthropic이 거부함. Anthropic의 레드라인은 딱 두 가지: 자율 무기 금지, 국내 대규모 감시 금지. 국방부는 "모든 합법적 용도"에 제한 없이 접근하고 싶어했음.

이에 헤그세스 국방장관이 Anthropic을 공급망 위험으로 지정하는 초강수를 둠. 이 라벨은 원래 외국 적대국과 연계된 기업에만 쓰던 건데 미국 기업에 적용한 건 전례가 없음. 연방 기관에 Claude 사용 중단 명령, Anthropic과 거래하는 기업과도 관계 단절하라고 지시함.

판결 내용

캘리포니아 연방지법 리타 린 판사가 43페이지 판결문에서:

  • **"오웰적(Orwellian)"**이라고 직접 표현. "미국 기업이 정부와 의견 불일치를 표명했다고 잠재적 적국이자 사보타주범으로 낙인찍을 수 있다는 건 관련 법령 어디에도 없다"
  • 수정헌법 제1조(표현의 자유)와 적법 절차 위반이라고 판단
  • 국방부 내부 기록에 Anthropic을 공급망 위험으로 지정한 이유가 "언론을 통한 적대적 태도" 때문이라고 적혀 있었음
  • "정부의 계약 입장에 대중의 관심을 끌었다고 처벌하는 건 전형적인 위헌적 수정헌법 제1조 보복"이라고 명시

양측 반응

  • Anthropic: "법원이 신속하게 움직여준 것에 감사하며, 본안에서 승소할 가능성이 높다는 데 동의한다"
  • 국방부 CTO 에밀 마이클: X에서 판결을 "치욕(disgrace)"이라고 비난. "분쟁 시기에 48시간 만에 급조된 42페이지 판결에 수십 개의 사실 오류가 있다"고 주장했지만 구체적으로 어떤 오류인지는 밝히지 않음
  • 국방부 항소 예정. 판사가 이를 고려해 판결 시행을 1주일 유예함

더 넓은 맥락

  • 수억 달러 규모의 계약이 걸려 있음
  • 헤그세스가 헌법적 권리를 침해했다는 판결이 최근 연달아 나오고 있음: 언론인 수정헌법 제1조 침해(DC 연방법원), 민주당 상원의원 표현의 자유 침해(DC 연방법원)
  • DC 법원에서 별도 소송도 진행 중

핵심 포인트

  • 리타 린 판사: 43페이지 판결에서 펜타곤 조치를 '오웰적'이라 표현, 수정헌법 제1조·적법절차 위반 판단
  • Anthropic의 레드라인: 자율 무기 금지, 국내 대규모 감시 금지
  • 국방부 내부 기록에 지정 사유가 '언론을 통한 적대적 태도'로 명시되어 있었음
  • 공급망 위험 라벨은 원래 외국 적대국 연계 기업용 - 미국 기업 적용은 전례 없음
  • 국방부 CTO는 판결을 '치욕'이라 비난, 항소 예정. DC 법원에서 별도 소송도 진행 중

인사이트

AI 기업의 윤리적 가드레일이 정부와 직접 충돌한 첫 대형 법적 분쟁. 표현의 자유 프레임으로 승소했지만, 항소와 별도 소송이 남아있어 최종 결과는 아직 미정.

댓글

댓글

댓글을 불러오는 중...

ai-ml

'AI로 진실을 조작하는 건 안 된다' — 영국 지방선거에서 AI 딥페이크 등장

영국 웨이크필드 의원의 사진이 AI로 조작되어 선거 허위 정보에 사용됨. 반대했던 주택 개발 단지를 지지하는 것처럼 합성된 이미지가 유포됨.

ai-ml

이란 전쟁은 AI 아첨(Sycophancy)이 만든 재앙인가

RLHF로 훈련된 AI 시스템의 아첨 경향이 이란 전쟁 계획에 어떻게 영향을 미쳤는지 분석한 장문 기사. Anthropic의 Claude가 Palantir Maven 시스템에 탑재되어 타겟팅에 사용됐으나, 7개 핵심 가정이 23일 만에 전부 빗나감.

ai-ml

아첨하는 AI 챗봇, 사용자를 이기적이고 반사회적으로 만든다는 연구 결과

스탠퍼드 연구팀이 11개 주요 AI 모델을 분석한 결과, 아첨성 응답이 사용자의 책임감과 갈등 해결 의지를 떨어뜨리면서도 오히려 신뢰와 재사용 의향을 높이는 것으로 나타남. 2,405명 대상 실험에서 확인됨.

ai-ml

LLM은 언어를 어떻게 '느끼는가' — 인지의미론으로 본 LLM의 개념 인식

인지의미론의 원형 의미론 관점에서 LLM과 인간의 개념 인식 차이를 분석한 글. LLM 임베딩은 카테고리 분류는 인간과 유사하지만 전형성 판단에서는 상관계수 0.15 이하로 크게 다르며, next-token prediction 훈련 목적이 근본 원인일 수 있음

ai-ml

데이비드 삭스, 백악관 AI·크립토 차르직에서 물러남

트럼프 대통령의 AI·크립토 특별 고문 데이비드 삭스가 SGE 130일 임기를 모두 소진하고 물러남. 앞으로는 저커버그·앤드리슨·젠슨 황 등이 합류한 PCAST 공동의장으로 자문 역할만 수행할 예정임.