한국은 AI 기본사회를 말하고, 세계는 AI 거버넌스 공백을 걱정한다

• 한국 정부가 ‘AI 기본사회’라는 큰 그림을 본격적으로 꺼냄. AI 혜택을 특정 산업이나 계층에만 두지 말고, 전 국민이 공유하는 사회 시스템으로 만들겠다는 방향임

  • 국가인공지능전략위원회와 기본사회위원회가 9일 서울에서 합동 워크숍을 열었음
  • 과학기술정보통신부와 행정안전부 관계자도 참석해 정책 방향을 공유함

• 논의 범위가 꽤 넓음. AI를 서비스 몇 개 붙이는 수준이 아니라 노동, 복지, 교육, 행정까지 사회 전반의 인프라로 보는 쪽임

  • 참석자들은 AI 기반 공공서비스 혁신, 사회 안전망 강화, 데이터 활용을 통한 행정 효율화, 민주적 거버넌스 구축을 핵심 과제로 제시함
  • 정부는 산업계, 전문가, 국민 의견을 수렴해 연내 ‘모두를 위한 AI 기본사회 추진계획’을 만들 계획임

• 동시에 국제사회 쪽은 분위기가 좀 다름. AI 거버넌스가 기술 발전 속도를 못 따라간다는 우려가 커지는 중임

  • 영국 싱크탱크 Chatham House는 3월 보고서에서 AI 거버넌스가 위기 이전의 협력 의지만으로는 구축되기 어렵다고 분석함
  • 대규모 충격이 발생한 뒤에야 실질적 진전이 가능할 수 있다는 꽤 씁쓸한 전망임

• Chatham House가 경고한 AI 위기 시나리오는 추상적이지 않음

  • 알고리즘 오류로 인한 금융시장 혼란
  • 자율무기 오작동
  • 선거개입
  • 핵심인프라 공격
  • 이런 문제는 국경을 넘어 퍼질 수 있어서 한 나라의 규제만으로 막기 어렵다는 게 포인트임

• 왜 국제 합의가 안 되냐면, 각국과 기업의 이해관계가 너무 세게 엉켜 있음

  • 미·중 전략 경쟁이 심해지고 있음
  • 빅테크 영향력이 커졌고, 국제기구는 집행력이 부족함
  • 각국 정부가 기술 경쟁력 유지를 우선하다 보니 구속력 있는 국제 규범에 합의하기 어려운 구조가 됨

• 보고서는 그래도 위기 전에 최소한의 준비자산은 만들어야 한다고 봄

  • 위기 대응 협정 초안 마련
  • AI 안전·안보 기관 권한 강화
  • 모델 셧다운과 서킷브레이커 구축
  • 정부 간 비공식 소통 채널 운영
  • 민간 기업과의 정보 공유 체계 구축

• 결론은 꽤 단순하지만 무거움. AI의 혜택을 넓히는 설계와 위험을 줄이는 설계를 동시에 해야 함

  • 한국의 AI 기본사회 논의는 확산 쪽에 무게가 있음
  • 국제 거버넌스 논의는 통제와 위기 대응 쪽에 무게가 있음
  • 둘 중 하나만 하면, 빠르게 도입했는데 사고에 취약하거나 안전만 말하다가 실사용 혜택을 놓치는 그림이 나올 수 있음

---

기술 맥락

• 이 기사에서의 선택은 AI를 “성장 기술”로만 볼지, “국가 운영 인프라”로 볼지예요. 한국 정부의 AI 기본사회 논의는 후자에 가까워요. 복지, 행정, 교육까지 들어가면 모델 성능보다 제도 설계가 더 중요해지거든요.

• 거버넌스 공백이 위험한 이유는 AI 사고가 한 시스템 안에서만 끝나지 않을 수 있기 때문이에요. 금융시장, 선거, 핵심인프라처럼 연결된 영역에서는 작은 오류도 빠르게 사회적 사건으로 번질 수 있어요.

• 모델 셧다운이나 서킷브레이커가 언급되는 건 “문제가 생기면 누가 어떻게 멈출 수 있나”를 미리 정해야 하기 때문이에요. 기술적으로 가능하더라도 권한과 절차가 없으면 실제 위기에서는 작동하지 않아요.

• 개발자 입장에서는 앞으로 공공 AI나 대규모 AI 시스템을 만들 때 기능 구현만으로 끝나기 어려워질 가능성이 커요. 감사 로그, 중단 조건, 데이터 공유 범위, 책임 소재 같은 운영 설계가 제품 요구사항으로 들어올 수 있어요.