AI는 새로운 맥킨지가 될까: 책임 회피와 해고를 자동화하는 기술

AI를 지니가 아니라 맥킨지로 보자는 제안

• 글쓴이는 AI 위험을 설명할 때 흔히 쓰는 “요정 지니” 비유가 핵심을 놓친다고 봄

  • 지니 비유는 “명령을 정확히 내려야 한다”는 교훈으로 흐르기 쉬움
  • 하지만 미다스 왕 이야기의 진짜 교훈은 욕망과 탐욕이 모든 걸 망친다는 쪽에 가깝다는 지적임

• 대신 AI를 맥킨지 같은 경영 컨설팅 회사로 보자고 제안함

  • 맥킨지는 포춘 100대 기업의 90%와 일한 적 있는 거대 컨설팅 회사임
  • 기업은 하기 싫은 일을 대신 실행하고, 책임은 “전문가 조언을 따랐다”로 돌릴 수 있음
  • AI도 비슷하게 “알고리즘이 그렇게 말했다”는 책임 회피 장치가 될 수 있다는 주장임

‘자본의 집행자’로서의 AI

• 글은 맥킨지를 “capital’s willing executioners”, 즉 자본이 시키는 더러운 일을 대신 해주는 집행자로 묘사함

  • Purdue Pharma가 오피오이드 OxyContin 판매를 “터보차지”하는 데 맥킨지를 쓴 사례를 언급함
  • 대량 해고를 주가와 임원 보상 상승 수단으로 정당화하는 컨설팅 문화도 함께 비판함

• AI도 현재 배치 방식만 보면 노동보다 자본을 돕는 쪽에 가깝다고 봄

  • 사람이 하던 작업을 분석해서 그 사람을 대체하는 방법을 찾는 일이 AI 도입의 주요 목표가 되고 있음
  • 우연처럼 보이지만, 사실 이건 경영진이 가장 해결하고 싶어 하는 문제와 정확히 맞아떨어짐

‘착한 AI’를 만들면 해결될까

• 글쓴이는 “사회적으로 좋은 해결책만 제안하는 AI를 만들면 되지 않나”라는 답을 낙관적으로 보지 않음

  • 착한 컨설팅 회사를 만든다고 해도 포춘 100 기업은 주주가치를 더 올려주는 맥킨지를 고를 가능성이 큼
  • 마찬가지로 기업은 원칙이 많은 AI보다 비용 절감과 수익 극대화에 유리한 AI를 택할 수 있음

• 문제는 AI 자체의 능력보다 시장에서 어떤 AI가 선택되는가임

  • 주주가치 극대화를 가장 잘 돕는 AI가 있다면, 그 AI는 계속 팔릴 가능성이 높음
  • 그래서 AI 윤리는 모델 내부 제약만으로 끝나지 않고, 기업 인센티브와 규제까지 봐야 한다는 흐름임

UBI가 면죄부가 될 때

• AI 업계에서 실업 문제의 답으로 기본소득(UBI)을 말하는 태도도 비판함

  • 글쓴이는 UBI 자체에는 호의적이지만, 아직 존재하지 않는 제도를 핑계로 실업을 유발하는 건 책임 전가라고 봄
  • “문제가 충분히 심각해지면 정부가 어쩔 수 없이 개입할 것”이라는 기대는 위험하다는 것

• 여기서 accelerationism 얘기가 나옴

  • 나쁜 체제를 더 악화시켜서 붕괴와 변화를 앞당긴다는 정치 철학임
  • 글은 AI가 실업과 부의 집중을 밀어붙인 뒤 정부 개입을 기대하는 전략이, 의도했든 아니든 accelerationism과 닮았다고 봄
  • 문제는 그 사이에 단기·중기적으로 엄청난 고통이 발생하고, 언제 나아질지도 모른다는 점임

기술이 발전하면 다 같이 잘살게 된다는 믿음의 균열

• 글은 지난 40년의 정보기술 혁명을 반례로 듦

  • 미국의 1인당 GDP는 1980년 이후 거의 두 배가 됐지만, 중위 가계소득은 그만큼 따라가지 못함
  • 개인용 컴퓨터와 인터넷이 만든 경제적 가치는 주로 최상위 부자층의 부를 늘리는 데 쓰였다는 주장임

• 인터넷은 대단하지만, 생활비 현실은 별개였다는 지적도 나옴

  • 부동산, 대학 등록금, 의료비는 모두 인플레이션보다 빠르게 올랐음
  • 1980년에는 한 사람 벌이로 가족을 부양하는 일이 흔했지만, 지금은 드묾
  • 그래서 “새 기술이 나오면 장기적으로 모두의 생활수준이 오른다”는 주장은 더 이상 자동으로 믿기 어렵다고 봄

보조형 AI도 분배 없이는 부족함

• AI 연구자들이 말하는 “대체가 아니라 보조” 전략도 한계가 있다고 봄

  • 워드프로세서는 타이피스트를 없애기보다 타자기를 대체했고, 스프레드시트는 회계사를 대체하기보다 종이 장부를 대체했음
  • 즉 개인용 컴퓨터는 자동화보다 증강(augmentation)에 가까웠지만, 그 생산성 향상이 중위소득 상승으로 이어지진 않았음

• 결국 기술의 혜택을 나누는 경제 정책이 있어야 한다는 결론으로 감

  • AI가 기업 이익과 노동비 절감을 만들 수는 있음
  • 하지만 그게 곧바로 우리의 생활수준 개선을 뜻하진 않음
  • 분배 장치가 없으면 생산성은 위로만 흘러갈 수 있음

러다이트를 다시 읽기

• 글은 “러다이트”라는 말을 기술 혐오자라는 욕으로 쓰는 것도 문제라고 봄

  • 실제 러다이트는 기계 자체가 아니라 임금 하락, 위험한 노동조건, 아동노동, 조악한 상품에 항의했음
  • 기계 주인이 노동자에게 제대로 임금을 주면 그 기계는 건드리지 않았다는 설명도 나옴

• 그래서 질문은 “AI에 반대하느냐”가 아니라 “AI가 누구의 삶을 낫게 하느냐”가 돼야 함

  • 기술 비판을 곧 진보 반대로 몰아가면, 주주 이익을 위해 쓰이는 기술 사용을 비판하기 어려워짐
  • 글쓴이는 기술자들이 “더 많은 기술은 항상 더 좋다”는 가정을 스스로 의심해야 한다고 요구함

• 마지막 메시지는 꽤 직설적임

  • AI가 정말 세계를 바꿀 기술이라면, 만드는 사람들은 세상을 먼저 악화시키지 않고 개선하는 방법을 찾아야 함
  • AI가 자본의 무자비함만 강화한다면, 그건 중립 기술이라기보다 권력 증폭 장치에 가깝다는 결론임