백악관, 새 AI 모델 공개 전 사전 검토 카드 만지작

미국 정부가 AI 모델 출시 전 검토를 다시 꺼내 들었다

• 트럼프 행정부가 새 AI 모델을 공개하기 전에 정부가 먼저 검토하는 방안을 논의 중이라는 보도가 나옴

  • 뉴욕타임스는 복수의 미국 당국자를 인용해, 백악관이 AI 관련 워킹그룹을 만드는 행정명령을 논의 중이라고 전함
  • 이 워킹그룹에는 기술 기업 임원과 정부 당국자가 함께 참여하는 구상이 포함됨

• 핵심은 ‘출시 금지’가 아니라 ‘출시 전 접근과 취약점 검토’에 가까움

  • 일부 당국자는 정부가 모델 공개 전에 먼저 접근해 취약점을 확인하되, 출시 자체를 제한하지 않는 시스템을 구상 중임
  • 이 방식은 영국처럼 AI 모델 출시 전 안전 기준 충족 여부를 확인하는 접근과 비슷할 수 있다는 관측이 나옴

sequenceDiagram
    participant AI기업
    participant 백악관
    participant 워킹그룹
    participant 보안검토팀
    participant 공개시장
    AI기업->>백악관: 신규 모델 공개 계획 공유
    백악관->>워킹그룹: 사전 검토 절차 논의
    워킹그룹->>보안검토팀: 취약점 악용 가능성 점검 요청
    보안검토팀-->>워킹그룹: 위험 평가 결과 전달
    워킹그룹-->>AI기업: 안전 기준 관련 피드백 제공
    AI기업->>공개시장: 모델 공개 진행

촉매는 앤트로픽의 ‘클로드 미토스’

• 이번 논의의 직접 계기로는 앤트로픽의 신규 모델 ‘클로드 미토스’가 거론됨
  • 이 모델은 소프트웨어 보안 취약점을 식별하는 능력이 매우 강력한 것으로 알려짐
  • 방어자 입장에서는 취약점 분석 자동화 도구지만, 공격자 입장에서는 대규모 사이버 공격을 준비하는 도구가 될 수도 있음

• 백악관은 치명적인 AI 기반 사이버 공격이 발생했을 때의 정치적 파장도 우려하는 것으로 전해짐
  • 동시에 해당 기술을 국가 안보에 활용할 가능성도 점검하고 있음
  • 즉, 규제만의 문제가 아니라 사이버 안보와 기술 패권이 같이 얽힌 사안임

기존 비규제 기조와는 꽤 다른 움직임

• 이 논의는 트럼프 행정부의 기존 AI 정책 방향과 충돌하는 면이 있음

  • 트럼프 대통령은 AI를 중국과의 지정학적 경쟁에서 이기기 위한 필수 기술로 봐 왔음
  • 전임 조 바이든 행정부의 일부 안전성 평가와 보고 의무 규제도 철회한 바 있음

• 그래서 이번 움직임은 단순한 행정 절차 추가가 아니라 정책 톤 변화로 읽힘

  • 규제 완화를 주도했던 데이비드 색스 AI 차르가 지난 3월 사임 의사를 밝힌 뒤 내부 권력 구도도 바뀌고 있음
  • 수지 와일스 백악관 비서실장과 스콧 베선트 재무장관이 AI 정책에 더 직접적인 영향력을 행사하는 것으로 전해짐

• 개발자와 보안팀 입장에서는 모델 공개가 점점 소프트웨어 릴리스처럼 관리될 수 있다는 신호임
  • 고성능 모델은 기능 업데이트가 아니라 위험 능력의 배포로 취급될 수 있음
  • 특히 코드 생성, 취약점 탐지, 자동 공격 시나리오 작성 능력이 강해질수록 출시 전 레드팀 평가와 감사 로그의 중요성이 커질 수 있음

기술 맥락

• 이번 논의의 핵심은 AI 모델을 그냥 제품처럼 공개할 수 있느냐는 질문이에요. 특히 보안 취약점을 잘 찾는 모델은 방어 자동화에는 좋지만, 공격자에게도 거의 같은 효용을 주거든요.

• 백악관이 검토하는 방식은 출시 자체를 막는 강한 허가제라기보다, 공개 전에 정부가 접근해 위험한 능력을 먼저 확인하는 절차에 가까워요. 모델 배포 전에 보안 테스트와 위험 평가를 넣는 식이라, 소프트웨어 릴리스 파이프라인과 닮아 있어요.

• 클로드 미토스가 촉매로 언급된 이유는 능력의 방향이 민감하기 때문이에요. 단순히 글을 잘 쓰거나 코드를 잘 짜는 수준을 넘어, 실제 취약점 식별 능력이 강하면 대규모 사이버 공격의 준비 비용을 낮출 수 있어요.

• 기업 입장에서는 앞으로 고성능 모델을 공개할 때 성능 벤치마크만 준비해서는 부족할 수 있어요. 어떤 위험 평가를 했는지, 취약점 악용 가능성을 어떻게 줄였는지, 정부나 외부 검토에 어떤 자료를 제공할지까지 배포 전략의 일부가 될 가능성이 커요.