앤트로픽만 오픈 웨이트 지지 선언에 빠지자 터진 AI 개방 논쟁

앤트로픽만 빠진 오픈 웨이트 지지 선언

• 미국 주요 AI 기업들이 오픈 웨이트(open weights) 모델 지지 성명에 줄줄이 이름을 올렸는데, 앤트로픽만 빠졌음

  • 엔비디아, 메타, 마이크로소프트 등 20여 개 기업이 먼저 참여함
  • 이후 오픈AI, 구글, 스페이스X까지 동참하면서 “거의 다 들어간” 모양새가 됨
  • 27일 기준 주요 AI 기업 중 불참한 곳은 앤트로픽이 유일했다는 게 논란의 불씨였음

• 그러자 실리콘밸리 쪽에서 “앤트로픽이 오픈소스를 약화하려는 것 아니냐”는 비판이 터졌음

  • 트럼프 행정부의 전 AI 담당관 데이비드 색스는 X에서 기술 업계 전체가 개방형 AI를 지지하는데 앤트로픽만 예외라고 지적함
  • 오픈클로 창시자 피터 슈타인버거, 벤치마크의 빌 걸리, 01.AI 창업자 리카이푸도 공개적으로 비판에 가세함
  • 비판의 핵심은 앤트로픽이 안전을 명분으로 자기 사업 전략을 보호하려는 것 아니냐는 의심임

아모데이의 반박은 “금지하자는 게 아니다”

• 논란이 커지자 다리오 아모데이 CEO는 공식 블로그로 바로 반박했음

  • 앤트로픽은 개방형 가중치 모델을 전면 금지하자고 한 적이 없고, 앞으로도 그럴 계획이 없다고 못 박음
  • 위험한 능력을 갖추지 않은 개방형 모델은 기업, 개발자, 연구자에게 큰 가치를 주는 공공재라고 표현함
  • 미국 기업의 개방형 모델 사용을 막는 보호주의 정책은 자신들이 우려하는 국가 안보 문제를 해결하지 못한다고 봄

• 앤트로픽이 진짜로 걱정하는 건 “모델 공개” 자체보다 고성능 AI의 악용 가능성임

  • 권위주의 국가가 미국보다 강력한 AI를 개발해 군사적 우위를 확보하거나 대규모 감시 체계를 구축하는 상황을 우려함
  • 고성능 AI가 사이버 공격이나 생물학적 공격에 쓰일 가능성도 중요한 위험으로 꼽음
  • 즉, 오픈 모델 전체를 막자는 얘기가 아니라 위험 능력을 가진 모델을 어떻게 다룰지가 핵심이라는 주장임

모델 증류가 왜 이렇게 민감한가

• 아모데이는 중국 기업들의 대규모 모델 증류(distillation)를 특히 문제로 봤음

  • 증류는 처음부터 모델을 학습하는 것보다 훨씬 적은 연산 자원으로 성능을 끌어올릴 수 있음
  • 이 방식이 산업 규모로 이뤄지면 중국이 미국의 AI 기술 격차를 빠르게 좁히는 수단이 될 수 있다는 논리임
  • 다만 그는 증류 문제와 개방형 모델 문제는 별개라고 선을 그었음

• 그래서 제안한 정책도 오픈 모델 일괄 금지가 아니라 더 좁고 강한 규제에 가까움

  • 중국에 대한 첨단 AI 반도체와 반도체 제조장비 수출 통제 강화
  • 산업 규모의 불법 모델 증류에 대한 강력한 단속
  • 개방형·폐쇄형을 가리지 않는 고성능 AI 모델의 의무적 안전성 평가

이 논쟁이 커진 배경

• 최근 중국 문샷 AI의 오픈 웨이트 모델 ‘키미 K3’가 미국 최상위 폐쇄형 모델과 맞먹는 성능을 보이면서 미국 내부의 긴장감이 커졌음

  • 오픈 웨이트 모델이 “저렴하고 빠르게 따라잡는 길”로 보이기 시작한 셈임
  • 미국 AI 업계 입장에선 개방형 생태계를 키워야 한다는 주장과, 전략 기술 유출을 막아야 한다는 주장이 정면충돌하게 됨

• 허깅페이스가 폐쇄형 AI 대신 중국 지푸 AI(Z.ai)의 오픈 웨이트 모델로 오픈AI 자율 에이전트 공격을 분석하고 대응했다는 사례도 언급됨

  • 이 사례는 오픈 모델이 공격자에게만 유리한 게 아니라 방어자에게도 쓸모가 있다는 주장에 힘을 실어줌
  • 반대로 앤트로픽은 “오픈 모델이 반드시 보안을 강화하고 방어 측에 더 큰 이익을 준다”는 전제는 안전성 평가로 검증해야 한다고 봄

---

기술 맥락

• 이 논쟁의 기술적 선택은 모델을 얼마나 열어둘지예요. 오픈 웨이트는 개발자가 직접 모델을 내려받아 돌리고 튜닝할 수 있어서 생태계 확장에는 유리하지만, 성능이 너무 강해지면 통제하기 어려운 위험도 같이 생겨요.

• 앤트로픽이 민감하게 보는 지점은 모델 증류예요. 큰 모델을 직접 학습하려면 막대한 반도체와 데이터센터가 필요한데, 증류를 쓰면 기존 강한 모델의 출력을 활용해 훨씬 적은 자원으로 성능을 끌어올릴 수 있거든요.

• 그래서 아모데이의 해법은 개방형 모델 금지가 아니라 고성능 모델 전체에 대한 안전성 평가에 가까워요. 공개 모델이든 폐쇄 모델이든 사이버 공격이나 생물학적 악용 능력이 있으면 같은 기준으로 봐야 한다는 거예요.

• 개발자 입장에선 오픈 웨이트 모델을 쓸 기회가 커지는 동시에, 앞으로는 모델 출처와 라이선스뿐 아니라 증류 여부, 안전성 평가, 수출 통제 같은 정책 리스크까지 같이 봐야 하는 흐름이에요.