미국 AI 규제 오락가락하다가 중국 오픈소스 모델에 판 깔아준 상황

미국이 통제를 풀었지만, 신뢰는 이미 깨짐

• 미국 정부가 앤트로픽의 ‘미토스(Mythos)’와 ‘페이블(Fable)’ 모델에 걸었던 수출 통제를 철회함

  • 페이블은 긴 작업을 자율적으로 수행할 수 있는 모델로 기대를 받아왔고, 미토스는 사이버 보안 쪽에서 취약점 탐지와 패치에 활용될 수 있는 모델로 언급됨
  • 앤트로픽, 투자자, 사용자 입장에서는 당장 한숨 돌릴 만한 결정임

• 문제는 ‘풀었다’가 아니라 ‘애초에 왜 이렇게 불투명하게 묶었냐’임

  • 미국은 공식적으로는 부인하지만, 실제로는 프런티어 AI 모델에 대한 허가제 비슷한 운영을 하고 있다는 비판을 받음
  • 규칙이 명확한 법이나 표준이 아니라, 관료가 그때그때 판단하는 임시방편처럼 보인다는 게 핵심 불신 포인트임

• 미국 정부도 이 문제를 의식한 듯, 주요 AI 연구소들과 자발적 표준을 만드는 움직임이 있음

  • 파이낸셜타임스 보도에 따르면 프런티어 AI 랩이 따를 수 있는 명확한 표준을 논의 중임
  • 특히 사이버 보안 영역에서 기준을 충족하면 정부가 모델 공개 출시에 이의를 제기하지 않을 것이라는 예측 가능성을 주려는 방향임

앤트로픽은 안전장치 평가 프레임워크도 같이 만들고 있음

• 앤트로픽은 모델 안전장치(Guardrails)를 무력화하는 탈옥(Jailbreak) 리스크를 평가하기 위해 미국 정부와 공동 프레임워크를 개발 중이라고 밝힘

  • 초기 개발 파트너로 아마존, 마이크로소프트, 구글, 그리고 ‘글래스윙(Glasswing)’ 파트너 연합이 언급됨
  • 글래스윙은 미토스 모델 접근 권한을 받은 핵심 인프라 기업 연합으로 설명됨

• 흥미로운 지점은 오픈AI가 처음부터 이 그룹에 포함되지 않았다는 점임

  • 기사에서는 앤트로픽과 오픈AI 사이의 깊은 불신을 보여주는 장면으로 읽음
  • 프런티어 AI 안전 표준이 산업 공동 규칙처럼 보이지만, 실제로는 기업 간 이해관계도 꽤 세게 얽혀 있다는 뜻임

기업들은 ‘미국산 AI 백업’을 찾기 시작함

• 수출 통제가 철회됐어도, 시장이 받은 메시지는 이미 남아 있음

  • 핵심 업무를 미국산 프런티어 AI 모델에만 전적으로 맡기는 게 전략적으로 위험할 수 있다는 인식이 퍼짐
  • 특히 유럽에서 이런 경계심이 강하고, 미국 기업들 사이에서도 오픈소스 모델을 백업으로 검토하는 흐름이 커지고 있음

• 그런데 백업으로 쓸 만한 고성능 오픈소스 모델 상당수가 중국 AI 기업에서 나오는 중임

  • 자체 클라우드에 모델을 내려받아 돌리면 중국으로 데이터가 빠져나가는 위험은 줄일 수 있음
  • 하지만 ‘중국계 모델을 쓴다’는 사실 자체가 평판 리스크가 될 수 있음
  • 더 나아가 미국 정부가 나중에 자국 기업의 중국계 모델 사용을 차단할 가능성도 있음

사이버 보안에서는 오픈소스 모델이 진짜 난제임

• 월스트리트저널은 중국 지푸 AI(Zhipu AI)의 ‘GLM-5.2’가 한 사이버 보안 연구소 평가에서 앤트로픽 미토스와 대등한 수준에 도달했다고 보도함

  • 다만 연구진 설명에 따르면 GLM-5.2가 미토스의 모든 기능을 따라잡은 건 아님
  • GLM-5.2는 미토스와 비슷한 소프트웨어 취약점을 포착할 수 있는 수준으로 평가됐고, 이 정도는 이미 공개된 다른 모델들도 일부 가능한 영역임

• 미토스가 특별한 이유는 단순 취약점 탐지를 넘어, 취약점들을 엮어 실제 작동하는 익스플로잇(공격 코드)을 만들고 해킹에 활용할 수 있다는 점임

  • GLM-5.2가 그 수준까지 갔다는 징후는 아직 없음
  • 하지만 기사에서는 일부 오픈소스 모델이 이 영역에 도달하는 게 몇 달 안 남았을 수 있다고 봄

• 현재 AI 모델의 사이버 악용 방지는 주로 안전장치와 분류기에 의존함
  • 분류기는 메인 모델에 들어가는 프롬프트를 감시하고, 의심스러운 명령을 차단하는 작은 AI 모델임
  • 그런데 오픈소스 모델에서는 이 분류기를 쉽게 빼버릴 수 있음
  • 모델 내부에 학습된 안전장치도 탈옥될 수 있고, 가중치에 접근 가능한 구조라면 우회 경로가 존재한다는 연구 결과도 있음

그래서 국제 AI 거버넌스 얘기가 다시 나옴

• 파이브 아이즈(Five Eyes)는 고도화된 AI 모델로 인한 임박한 사이버 위협을 경고함

  • 미국, 영국, 캐나다, 호주, 뉴질랜드의 정보 공유 동맹이 이 문제를 공개적으로 우려할 정도면 꽤 진지한 신호임

• 샘 올트먼도 미국 주도의 국제 AI 거버넌스 체제를 다시 촉구하고 있음

  • 서구 정부들이 공동 표준을 만들고, 그 대가로 강력한 AI 모델에 대한 공동 접근권을 공유하자는 구상임
  • 중국이 이 틀에 포함될지는 불분명하지만, 서구 국가들이 AI 기반 공격에 대응하기 위해 강력한 모델을 안전하게 공유하는 프레임워크가 될 수 있음

• 결론은 좀 씁쓸함. 규제는 필요하지만, 예측 불가능한 규제는 오히려 통제 불가능한 선택지를 키울 수 있음

  • 미국이 프런티어 AI를 통제하려다 시장에 ‘미국산 모델 리스크’를 각인시킴
  • 그 결과 기업들은 중국계 오픈소스 모델까지 포함해 대안을 찾기 시작함
  • 정작 오픈소스 모델은 안전장치 통제가 더 어려우니, 규제 타이밍과 설계가 더 중요해진 상황임

---

기술 맥락

• 이 기사에서 중요한 선택지는 폐쇄형 프런티어 모델을 쓸지, 오픈소스 모델을 자체 인프라에 올릴지예요. 폐쇄형 모델은 성능과 안전장치가 강하지만 정부 통제나 공급 중단 리스크가 있고, 오픈소스 모델은 운영 자유도가 높지만 안전장치를 제거하기 쉬워요.

• 기업 입장에서는 모델 성능만 보고 결정할 수가 없어요. 핵심 업무를 AI에 붙이는 순간, 갑자기 수출 통제나 접근 제한이 걸리면 서비스 운영 자체가 흔들리거든요. 그래서 백업 모델이나 멀티 모델 전략이 현실적인 선택지로 떠오르는 거예요.

• 사이버 보안 영역에서는 이 문제가 더 날카로워요. 취약점 탐지만 하는 모델과, 취약점을 조합해 실제 익스플로잇을 만드는 모델은 위험 수준이 완전히 다르거든요. 미토스가 민감하게 다뤄지는 이유도 여기에 있어요.

• 오픈소스 모델의 장점은 자체 클라우드에서 돌려 데이터 유출을 줄일 수 있다는 점이에요. 하지만 가중치 접근이 가능하면 분류기 제거와 탈옥 시도가 쉬워지기 때문에, 정책적으로는 통제 가능한 배포 모델을 설계하기가 훨씬 어려워져요.

• 결국 관건은 규제를 하느냐 마느냐가 아니라, 기업이 예측 가능한 기준 안에서 기술을 도입할 수 있느냐예요. 기준이 흐릿하면 시장은 안정적인 공급과 통제 가능성을 찾아 다른 경로로 움직이게 돼요.