교황이 첫 회칙에서 AI 권력과 디지털 노동 착취를 정면으로 때렸다

교황의 첫 회칙이 AI를 정면으로 다뤘다

• 레오 14세 교황이 즉위 후 처음 발표한 회칙에서 인공지능(AI)을 핵심 주제로 꺼냈어.

  • 회칙 제목은 마니피카 후마니타스(Magnifica Humanitas), 한국어로는 ‘위대한 인간성’이야.
  • 회칙은 전 세계 가톨릭 신자와 주교에게 보내는 최고 권위의 사목 교서라, 일반 연설보다 훨씬 무게가 커.
  • 이번 문서는 82페이지, 245개 항, 4만 단어가 넘는 방대한 분량이야.

• 교황이 가장 중요한 표현으로 꼽은 건 ‘AI 무장해제’였어.

  • 여기서 무장해제는 AI 기술을 거부하자는 말이 아니야.
  • 기술을 가진 권력자가 AI를 자기 마음대로 통치 수단으로 쓰는 걸 거부한다는 뜻에 가까워.
  • 교황은 AI가 인간을 지배하지 못하게 해야 한다고 강조했어.

• 교황은 AI를 성경 속 바벨탑에 비유했어.

  • 하늘에 닿는 탑을 세우려다 무너진 바벨탑처럼, 기술 권력이 인간 위에 서려는 시도를 경계한 거야.
  • “또 하나의 바벨탑 건설을 포기하고 공동선을 구축하자”는 표현이 나왔어.
  • AI 논의를 단순 기술 효율이 아니라 인간의 한계와 권력 문제로 본 셈이지.

전쟁, 허위 정보, 자율무기까지 연결

• 회칙은 AI 시대의 전쟁이 단순한 무력 충돌만이 아니라고 봤어.

  • 기술이 만들어낸 허위 정보, 단순화된 서사, 이분법적 사고가 전쟁을 문화적으로도 만든다는 지적이야.
  • 교황은 전쟁이 “필요하거나 불가피한 것”처럼 포장되는 흐름을 비판했어.
  • 특히 ‘정당한 전쟁’ 이론은 시대에 뒤떨어졌다고 선을 그었어.

• 자율무기 체계에 대한 우려도 직접 나왔어.

  • 교황은 일부 자율무기 체계가 사실상 인간이 통제할 수 있는 범위를 넘어섰다고 봤어.
  • AI가 전쟁 판단과 실행에 깊게 들어가면 책임 소재가 흐려지고, 통제 가능성도 약해진다는 문제의식이 깔려 있어.
  • 개발자 입장에서는 “기술적으로 가능하다”와 “사회적으로 허용 가능하다”가 다르다는 얘기로 읽을 수 있어.

플랫폼과 데이터는 누구의 것인가

• 교황은 알고리즘, 디지털 플랫폼, 기술 인프라, 데이터 같은 요소를 ‘보편적 재화’에 포함해야 한다고 주장했어.

  • 디지털 혁명에 참여할 수 있는 사람과 그렇지 못한 사람 사이의 격차를 줄이기 위해서야.
  • 플랫폼과 데이터, 인프라가 국가가 아니라 경제·기술 권력자에게 통제되는 상황도 지적했어.
  • 권력이 소수에 집중되면 불투명성, 의존, 배제, 불평등이 커진다는 우려야.

• 그래서 교황은 시장의 ‘보이지 않는 손’만으로는 부족하다고 봤어.

  • AI와 로봇 시대에는 시장 자율 기능만으로 공공선에 가까운 균형을 만들기 어렵다는 거야.
  • 정치가 노동의 존엄성, 사회적 포용, 혁신 혜택의 공정한 분배를 맡아야 한다고 강조했어.
  • AI 규제를 단순한 기술 규제가 아니라 사회 계약의 문제로 보는 관점이야.

디지털 경제의 보이지 않는 노동

• 회칙에서 꽤 강하게 나온 대목은 디지털 노동 착취야.

  • 교황은 데이터 라벨링, 모델 훈련 같은 보이지 않는 활동에 종사하는 수백만 명의 노동을 언급했어.
  • 희토류 등 자원을 채굴하는 가혹한 노동도 같이 지적했어.
  • 이걸 ‘새로운 형태의 노예제’라고 부르며, 윤리적 AI의 결정적 시험이라고 봤어.

• 이 관점은 AI 윤리를 모델 출력 문제로만 보지 않는다는 점에서 의미가 있어.

  • 흔히 AI 윤리라고 하면 편향, 개인정보, 안전성 같은 주제가 먼저 떠오르잖아.
  • 그런데 교황은 학습 데이터가 만들어지는 노동 구조, 인프라를 떠받치는 자원 채굴까지 같이 보자고 한 거야.
  • AI가 인간을 돕는 기술이 되려면, 그 밑에서 인간이 갈려나가는 구조도 봐야 한다는 메시지로 읽혀.