미·중 정상회담 의제로 올라간 ‘AI 위험 통제’

미·중 정상회담에서 인공지능(AI) 위험 통제가 핵심 의제로 올라갈 가능성이 커졌음

• 회담은 5월 14~15일 중국 베이징에서 열릴 예정이고, 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석이 만나는 자리임
• 월스트리트저널(WSJ)에 따르면 양국은 정상회담 의제에 AI 문제를 넣는 방안을 논의 중임

핵심은 “AI 경쟁은 계속하더라도, 감당 안 되는 사고는 막자”는 쪽에 가까움

• 미국과 중국 모두 강력한 AI 모델 개발 경쟁이 디지털 시대의 군비 경쟁처럼 번지고 있다는 인식을 공유하는 분위기임
• WSJ는 양쪽 모두 이 경쟁이 어느 한쪽도 감당하기 어려운 위기로 이어질 수 있다는 점을 의식하고 있다고 전했음

논의될 것으로 보이는 주제는 대부분 안보 리스크임

• AI 모델이 예상 못 한 방식으로 오작동하는 문제
• 자율 무기 시스템이 통제를 벗어나거나 오판할 위험
• 반국가 세력이 오픈소스 AI를 악용하는 시나리오
• AI를 활용한 사이버 공격 가능성

양국은 AI 대응을 논의할 공식 협의체 출범도 검토 중인 것으로 알려졌음

• 미국 측에서는 스콧 베선트 재무장관이 AI 협상을 총괄하고 있음
• 중국 측 카운터파트는 아직 정해지지 않은 상태임

더 흥미로운 건 ‘AI 핫라인’ 얘기까지 나온다는 점임

• 과거 미국과 소련이 핵 위기를 통제하려고 정상 간 직통 전화를 둔 것처럼, AI 위험 상황에서도 빠르게 소통할 채널을 만들자는 구상임
• AI 사고나 군사적 오판이 발생했을 때 서로 바로 연락할 수 있는 장치를 만들자는 의미임

다만 핫라인을 만든다고 실제로 잘 굴러갈지는 완전 별개의 문제임

• 조 바이든 행정부에서 중국 문제를 담당했던 러시 도시 조지타운대 교수는 “핫라인을 만드는 게 문제가 아니라, 중국이 실제로 전화를 받을지가 문제”라고 지적했음
• 실제로 2023년 중국 정찰풍선이 미국 상공을 통과했을 때도 중국은 미국 측 연락에 즉각 응답하지 않았음

정리하면, AI는 이제 개발자 도구나 기업 경쟁을 넘어 정상회담급 외교 안건이 됐음

• 특히 모델 오작동, 오픈소스 악용, 사이버 공격, 자율 무기 같은 키워드가 한 묶음으로 다뤄지고 있음
• 한국 개발자 입장에서도 AI 규제와 보안 논의가 앞으로 모델 공개, 서비스 배포, 보안 정책에 어떤 식으로 영향을 줄지 계속 봐야 하는 흐름임