앤트로픽, “오픈 웨이트 모델 금지하자는 얘기 한 적 없다”

• 앤트로픽 CEO 다리오 아모데이가 “우리는 오픈 웨이트 모델 금지를 주장한 적 없다”고 공개적으로 선을 그음

  • 최근 미국 내에서 중국산 오픈 웨이트 모델 사용을 금지하는 방안이 거론됐고, 여러 테크 기업은 오픈 웨이트 모델을 지지하는 공개 서한에 서명함
  • 일부에서는 앤트로픽이 자기 사업 보호를 위해 오픈 웨이트 모델 금지를 밀고 있다고 비판했는데, 아모데이는 이 프레임을 정면으로 부인함

• 아모데이의 기본 입장은 꽤 명확함. 위험한 능력이 없는 오픈 웨이트 모델은 공공재에 가깝다는 것

  • 실행에 필요한 컴퓨트 비용만 있으면 기업, 개발자, 연구자가 쓸 수 있고, 접근성을 넓히는 효과가 있음
  • 그래서 “오픈 웨이트 모델 전체를 막자”는 식의 보호무역적 금지는 자기들이 원하는 방향이 아니라고 함

• 다만 걱정하는 위험은 따로 있음. 첫 번째는 권위주의 정부가 미국보다 강한 AI를 만들어 군사·감시 우위에 쓰는 시나리오임

  • 중국 공산당만 지목하는 건 아니지만, 현재 가장 유력한 위협 주체로 중국을 보고 있음
  • 이 위험은 모델이 오픈 웨이트인지 아닌지와 별 상관이 없다고 봄
  • 진짜 최악은 공개 모델이 아니라, 비밀리에 학습된 모델이 군용 드론이나 대규모 감시 시스템에만 제공되는 경우라는 얘기임

• 두 번째 위험은 강력한 AI 모델이 사이버 공격이나 생물학 공격에 악용되는 경우임

  • 오픈 웨이트 모델은 폐쇄형보다 가드레일을 걸거나 사용량을 모니터링하기 어렵고, 한 번 공개된 가중치는 사실상 회수 불가능함
  • 하지만 미국 기업의 사용을 금지해도 악성 행위자가 합법적인 미국 기업일 가능성은 낮으니, 실질적 해결책이 아니라는 게 아모데이의 주장임
  • 오히려 그런 금지는 미국 AI 기업을 경쟁에서 보호하는 효과만 낼 수 있는데, 그건 앤트로픽의 목표가 아니라고 못 박음

• 아모데이가 제안한 첫 번째 해법은 강력한 AI 칩과 반도체 장비가 중국으로 들어가지 못하게 막는 것임

  • 중국은 자체 생산 역량이 제한적이고, 스케일링 법칙상 미국산 고성능 칩 없이 미국보다 강한 모델을 만들기 어렵다는 논리임
  • 밀수와 우회 조달도 강하게 단속해야 한다고 봄
  • 이 조치는 권위주의 정부가 프런티어 모델을 확보하는 위험을 직접 줄이고, 동시에 미국 법 밖에서 훈련되는 위험한 모델도 간접적으로 줄인다고 주장함

• 두 번째 해법은 산업 규모의 증류 작업을 막는 것임

  • 증류는 처음부터 모델을 학습하는 것보다 훨씬 적은 컴퓨트로 성능을 끌어올릴 수 있음
  • 아모데이는 중국이 이 방식으로 칩 부족을 일부 우회하고, 미국 프런티어 모델과의 격차를 몇 달 수준까지 좁힐 수 있다고 봄
  • 여기서 문제는 오픈 웨이트 공개 그 자체가 아니라, 국가적 지원을 받는 대규모 증류가 프런티어 경쟁을 우회하는 수단이 된다는 점임

• 세 번째 해법은 충분히 강력한 모든 모델에 출시 전 안전성 테스트를 의무화하는 것임

  • 오픈 모델이든 폐쇄형 모델이든, 사이버·생물학·정렬 위험을 직접 테스트해야 한다는 입장임
  • 스타트업이나 학계의 덜 강력한 모델은 아예 면제하는 방향도 언급함
  • 오픈 모델의 위험이 실제로 더 큰지, 완화 가능한지는 사전에 단정하지 말고 테스트로 확인해야 한다고 봄

• 공개 서한에 대해서는 “상당 부분 동의하지만, 너무 낙관적인 전제도 있다”는 입장임

  • 오픈 웨이트가 AI 경제 접근성을 넓히고, 일부 사용 사례에서 경쟁을 강화하며, 고객에게 더 큰 통제권을 준다는 점은 인정함
  • 하지만 오픈 웨이트가 반드시 안전장치 개발을 쉽게 만든다거나, 넓은 접근성이 공격자보다 방어자에게 더 유리하다는 주장에는 동의하지 않음
  • 특히 생물학 분야는 공격자 우위가 강할 수 있다고 봄. 충분히 강한 모델이 팬데믹급 바이러스를 빠르게 무기화할 수 있다면, 방어는 작전명 워프 스피드 같은 초대형 프로젝트를 해도 몇 년 단위일 수 있다는 얘기임

• 요약하면 앤트로픽의 포지션은 오픈 웨이트 반대파라기보다, 프런티어급 AI 능력 통제파에 가까움
  • 위험 낮은 오픈 웨이트 모델은 공공재로 인정함
  • 위험한 능력을 가진 모델은 공개형·폐쇄형을 가리지 않고 검증해야 한다고 봄
  • 국가 안보 리스크는 모델 사용 금지가 아니라 칩, 증류, 안전성 테스트 같은 실제 병목을 건드려야 한다는 논리임

---

기술 맥락

• 여기서 핵심 선택지는 “오픈 웨이트 모델을 막을 것인가”가 아니라 “프런티어 모델을 만들 수 있는 병목을 어디서 통제할 것인가”예요. 앤트로픽은 모델 사용 금지보다 칩과 증류를 건드리는 쪽이 실제 위험에 더 가깝다고 보는 거예요.

• 칩 통제가 중요한 이유는 대규모 언어 모델(LLM)의 성능이 컴퓨트 규모와 강하게 연결돼 있기 때문이에요. 강력한 GPU와 반도체 장비 접근을 막으면, 비밀리에 더 큰 모델을 학습시키는 난이도가 확 올라가거든요.

• 증류가 별도로 언급된 것도 같은 맥락이에요. 처음부터 거대 모델을 학습하지 않아도, 더 강한 모델의 출력을 활용해 성능을 끌어올릴 수 있으니 칩 제재의 우회로가 될 수 있어요. 그래서 단순 오픈소스 논쟁보다 상업적·법적 프레임이 필요하다는 얘기가 나오는 거예요.

• 안전성 테스트는 공개형과 폐쇄형을 같은 잣대로 보자는 제안이에요. 모델이 어디서 나왔는지보다, 실제로 사이버 공격이나 생물학 악용 능력을 갖췄는지가 더 중요하다는 접근이라 개발자 입장에서도 배포 전 평가 기준을 어떻게 잡을지 생각하게 만드는 포인트예요.