미국과 중국, 최첨단 AI 모델 안전장치 논의에 들어간다

• 미국과 중국이 최첨단 AI 모델의 안전장치를 논의하고 있다고 미국 재무장관이 밝힘

  • 스콧 베선트 장관은 14일 CNBC 인터뷰에서 이 내용을 말함
  • 핵심은 가장 강력한 AI 모델에 비국가 행위자가 접근하지 못하게 하는 운영 원칙을 어떻게 만들지임

• 베선트 장관은 지금 주요 AI 모델들이 “매우 빠른 속도로 강력해지고 있다”고 봄

  • 언급된 기업은 앤트로픽, 오픈AI, 구글 제미나이임
  • 그는 앤트로픽의 미토스 모델에서 생산성 측면의 단계적 도약을 봤고, 오픈AI 차기 모델에서도 비슷한 도약을 예상한다고 말함
  • 몇 달 뒤에는 구글 제미나이에서도 같은 흐름이 이어질 것으로 봤음

• 미국의 메시지는 혁신을 막지는 않겠지만 안전성은 같이 챙기겠다는 쪽임

  • 베선트 장관은 트럼프 행정부가 혁신을 억누르고 싶지 않다고 말함
  • 동시에 가장 많은 혁신과 가장 높은 수준의 안전을 동시에 달성하는 셈법을 마련하는 게 책임이라고 강조함

• 중국에 대해서는 뒤처져 있지만 강한 AI 산업을 가진 나라로 평가함

  • 베선트 장관은 중국이 미국보다 상당히 뒤처져 있다고 말하면서도, 그곳에도 매우 발전된 AI 산업이 존재한다고 인정함
  • 그래서 “두 AI 초강대국”이 대화를 시작하게 될 것이라고 표현함

• 이 AI 논의는 미중 경제·무역 협상 흐름과 같이 움직임

  • 베선트 장관은 트럼프 대통령의 중국 국빈 방문에 동행 중이었음
  • 앞서 13일에는 한국에서 허리펑 중국 부총리와 만나 경제·무역 관계를 논의함
  • 양국은 무역위원회 구성, 비민감 분야 투자위원회 설립, 중국의 보잉 항공기 구매 같은 의제도 함께 다루는 분위기임

• 개발자 입장에서는 앞으로 API 접근 정책과 모델 배포 방식이 더 정치적인 문제가 될 수 있다는 신호로 읽힘

  • 프론티어 모델의 접근 권한, 사용 제한, 모니터링, 기업과 정부의 협력 방식이 더 빡빡하게 설계될 가능성이 있음
  • 특히 글로벌 서비스를 운영하는 회사라면 AI 안전 규칙이 단순 컴플라이언스 문서가 아니라 제품 기능과 배포 전략에 영향을 줄 수 있음

---

기술 맥락

• 여기서 말하는 안전장치는 모델이 이상한 답을 하지 않게 하는 프롬프트 수준만 뜻하지 않아요. 누가 최첨단 모델에 접근할 수 있는지, 어떤 사용을 차단할지, 국가 간에 어떤 운영 원칙을 공유할지까지 포함하는 더 큰 레이어예요.

• 미국이 혁신을 억누르지 않겠다고 말하는 이유는 프론티어 모델 경쟁이 경제와 안보에 동시에 걸려 있기 때문이에요. 너무 세게 막으면 자국 기업의 속도가 떨어지고, 너무 느슨하면 위험한 사용을 통제하기 어려워져요.

• 비국가 행위자를 콕 집은 것도 중요해요. 국가 간 협정은 정부끼리 만들 수 있지만, 강력한 모델을 개인이나 조직이 우회적으로 쓰는 문제는 API 정책, 계정 심사, 모니터링, 모델 배포 방식까지 제품 레벨 통제가 필요하거든요.