샘 올트먼·다리오 아모데이까지, ‘AI 생물학무기’ 막자고 미국 의회에 규제 촉구

• 미국 AI 업계 핵심 인물들이 의회에 ‘AI발 생물학무기’ 규제를 요구함

  • 서명자에는 샘 올트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO, 데미스 허사비스 구글 딥마인드 CEO가 포함됨
  • 서한 제목은 ‘합성 핵산 검사 및 기록 보관 의무화 지지’임

• 핵심 요구는 합성 DNA·RNA 판매 기업에 사전 검증 의무를 부과하자는 것임

  • 고객 주문을 검사해서 위험한 유전체 조합을 차단해야 한다는 내용
  • 주문자가 해당 물질을 다룰 자격이 있는지도 확인해야 한다고 봄
  • 합성 핵산은 백신 개발이나 생명공학 연구에 필요한 물질이지만, 안전장치 없이는 위험한 방향으로도 쓰일 수 있음

• 이들이 걱정하는 건 ‘AI가 위험한 지식의 진입장벽을 낮춘다’는 점임

  • 서한은 AI 시스템이 고도의 기술적·실험적 절차에서 박사급 바이러스학자를 능가하고 있다고 표현함
  • 예전에는 전문지식 자체가 악의적 세력을 막는 장벽이었는데, AI가 그 장벽을 무너뜨릴 수 있다는 논리임

• 규제에 대한 반론도 있음. 특히 스타트업 비용 부담이 문제로 나옴

  • 고객 검증, 주문 검사, 기록 보관은 작은 생명공학 기업에 꽤 무거운 운영 비용이 될 수 있음
  • 그래도 딘 볼 미국혁신재단 선임연구원은 생물학무기 위험을 생각하면 감수할 만한 비용이라고 봄

• 이번 움직임은 AI 안전 논의가 훨씬 구체적인 인프라 규제로 넘어가고 있다는 신호임

  • 모델 출력만 통제하는 방식으론 부족하다고 보는 셈임
  • 실제 위험 물질이 만들어지는 공급망 단계에서 검증을 걸어야 한다는 접근임

---

기술 맥락

• 이 사안에서 중요한 선택은 AI 모델을 직접 막는 게 아니라 합성 핵산 주문 단계에 검증을 거는 방식이에요. 모델이 어떤 답을 했는지 전부 추적하기는 어렵지만, DNA·RNA 같은 물질이 실제로 주문되는 지점은 비교적 명확하거든요.

• 왜 합성 핵산 판매 기업이 규제 대상이 되냐면, 생물학 지식은 디지털 정보지만 병원체 개발은 결국 물리적인 재료가 필요하기 때문이에요. AI가 위험한 절차를 설명하더라도, 실제 유전체 조합을 합성하는 단계에서 막으면 피해 가능성을 줄일 수 있어요.

• 스타트업 비용 부담 논쟁도 여기서 나와요. 주문 검사, 고객 신원 확인, 기록 보관은 대기업에는 운영 프로세스지만 작은 회사에는 진입장벽이 될 수 있거든요. 그래도 기사 속 찬성론은 생물학무기 리스크가 워낙 크니 그 비용을 사회가 요구할 수 있다고 보는 쪽이에요.