착한 인공지능만으론 부족하다, 이제 ‘민주적 인공지능’ 논의가 온다

왜 ‘민주적 인공지능’ 얘기가 나오는가

• 인공지능(AI) 논의가 이제 ‘착한 인공지능’에서 ‘누가 인공지능을 통제하느냐’로 넘어가는 중임

  • 교황 레오 14세는 공동체가 인공지능 관련 결정을 수동적으로 받아들이는 대상으로 전락하면 안 된다고 경고함
  • 핵심은 인공지능의 방향을 공동체가 선택하고 수정할 힘을 가져야 한다는 것임
  • 단순히 인공지능 수익 일부를 나중에 나눠주는 사후 재분배보다 훨씬 깊은 얘기임

• 기존 논의는 윤리적 인공지능, 포용적 인공지능에 많이 머물렀음

  • 윤리적 인공지능은 기술이 인간의 가치를 지키게 하자는 쪽임
  • 포용적 인공지능은 누구나 기술 혜택에 접근할 수 있게 하자는 쪽임
  • 그런데 도덕성 기준 자체를 소수가 정하면, 겉으로는 착해 보여도 실제로는 보이지 않는 지배가 굳어질 수 있다는 문제 제기가 나옴

• 교황 메시지에서 눈에 띄는 건 알고리즘, 디지털 플랫폼, 기술 인프라, 데이터를 모두의 자원처럼 봤다는 점임

  • 물과 공기처럼 보편적 목적의 재화로 보고, 소수의 통제 아래 두면 안 된다고 봄
  • 그렇지 않으면 기술이 지배, 배제, 조작, 파괴에 쓰이고 부의 편중도 더 깊어진다는 우려임
  • 인공지능 시스템이 어떻게 설계됐고 어떤 인간관과 사회관을 담았는지까지 공동체가 따져야 한다는 주장임

어떤 대안들이 나오고 있나

• 노벨경제학상 수상자인 다론 아제모을루는 기술의 방향이 결국 통제권에 달려 있다고 봄

  • 지배적 플랫폼 독점에 강하게 대응해야 한다고 주장함
  • 인간의 능력을 키우는 인간 보완적 인공지능에 공공 투자를 늘려야 한다고 봄
  • 시민과 노동자가 자기 데이터가 어떻게 쓰이는지 알고, 특정 목적 활용을 거부할 권리도 가져야 한다는 입장임

• 트레버 숄츠는 더 구조적인 비판을 던짐

  • 민주적 인공지능은 소수 기업이 이익을 뽑아내는 추출 구조 위에 얹혀 살 수 없다고 말함
  • 쉽게 말해 “우리가 착하게 쓰겠다”는 선언만으로는 안 된다는 것임
  • 시민 데이터는 독립적 신탁기관이 공동체를 대신해 관리하고, 협동조합과 공동체가 공공 인프라를 활용해 자신들의 목적에 맞는 모델 개발에도 참여해야 한다고 제안함

• 미국 정치권에서도 꽤 센 제안이 나옴

  • 로 칸나 하원의원과 버니 샌더스 상원의원은 민주적 인공지능 7가지 원칙을 발표함
  • 여기에는 인공지능 독점을 규제할 연방 기관, 의사결정 구조에 노동자와 이해당사자 참여 보장, 데이터 활용 수익을 국민에게 돌려주는 데이터 배당이 포함됨
  • 데이터센터가 있는 지역사회에 기업의 재정적 책임을 부과하자는 내용도 있음

• 샌더스의 제안은 더 파격적임

  • 대형 인공지능 기업 지분의 절반, 즉 50%를 일회성 세금 형식으로 환수해 시민을 위한 국부 펀드를 만들자는 구상임
  • 이 펀드로 시민에게 배당금을 지급하고 의료, 교육, 주거 같은 공공 영역에 투자하자는 것임
  • 더 나아가 지분만큼 이사회에 들어가 인공지능 의사결정에도 참여하자는 논리임
  • 인공지능이 인류가 세대에 걸쳐 쌓은 책, 노래, 예술, 저널리즘, 코드, 과학연구, 이미지, 아이디어 위에서 이익을 뽑는 만큼 시민에게 소유와 결정권이 있다는 주장임

한국은 어디에 서 있나

• 한국도 인공지능 3강과 인공지능 기본사회를 말하고 있지만, 민주적 통제의 내용은 아직 채워야 할 게 많음

  • 대통령이 위원장을 맡은 국가 인공지능전략위원회는 인공지능 혁신 생태계, 인공지능 기반 대전환, 글로벌 인공지능 기본사회 기여를 중심으로 99개 실행과제를 도출함
  • 누구나 인공지능 서비스를 격차 없이 누리는 인공지능 기본사회가 목적지로 제시됨
  • 하지만 혜택 접근만으로 충분한지, 결정권과 통제권까지 시민에게 오는지는 별도 문제임

• 미국식 빅테크 중심 모델과 중국식 국가 통제 모델은 둘 다 참고할 점과 약점이 있음

  • 미국 모델은 빠른 혁신이 장점이지만 결정권이 대형 기업에 몰리기 쉬움
  • 중국 모델은 강한 추진력이 있지만 시민의 민주적 통제와는 거리가 있음
  • 그래서 한국형 인공지능 전략이 시민 주권 기반의 제3 선택지를 만들 수 있느냐가 관건임

• 권오현 사회적협동조합 빠띠 대표의 정의가 이 논점을 잘 압축함

  • 민주적 인공지능은 소유, 결정, 이익이 노동자, 소비자, 이용자, 데이터 주체, 투자자, 공동체 같은 다중 이해당사자에 의해 공동으로 통제되고 분배되는 구조임
  • 시장 주도와 국가 주도 모두 시민에게 결정권을 두지 않는다는 비판임
  • 결국 인공지능 기본사회의 완성도는 혜택을 얼마나 나누느냐뿐 아니라, 통제와 결정권이 누구에게 있느냐에 달려 있음