Aphyr의 AI 비판 에세이 — "AI의 미래는 거짓말, 멈추는 게 최선"

• 분산 시스템 전문가 Aphyr(Kyle Kingsbury)가 AI/ML의 미래에 대한 장문의 에세이를 공개함 — "AI의 미래는 거짓말"이라는 도발적 제목으로, 현재 ML 기술이 가져올 사회적 결과에 대해 깊은 우려를 표명
  • Jepsen 테스트로 유명한 분산 시스템 권위자가 쓴 글이라 기술 커뮤니티에서 큰 반향

자동차에 비유한 AI의 영향

• 핵심 비유가 강렬함 — "자동차가 얼마나 빠른지 얘기하려는 게 아니라, 도시의 형태가 어떻게 바뀔지 묻고 싶다"
  • 자동차가 도시를 재편하고, 대중교통을 밀어내고, 교외 스프롤을 만들고, 납 중독을 일으키고, 청년 사망 주요 원인이 된 것처럼
  • AI도 비슷한 규모의 사회 구조 변화를 가져올 거란 경고
• 가능한 미래 대부분이 나쁘다는 게 저자의 판단 — 2022년 대비 2026년 현재 가능한 미래의 범위가 훨씬 넓어졌고, 그 대부분이 부정적

이미 도래한 "헛소리의 미래"

• 저자가 나열한 현재 진행형 문제들이 꽤 구체적임
  • 검색 결과에 슬롭(slop), 고객 서비스·계약업체·엔지니어가 LLM으로 "맹목적으로 거짓말"
  • 전력 회사가 데이터센터 때문에 요금을 인상
  • LLM 스크래퍼가 운영 중인 웹사이트를 다운시킴
  • 합성 동물 학대 영상, 경찰 폭력을 거짓으로 다루는 생성 웹페이지
  • 받은 편지함의 LLM 스팸, 모더레이션 대시보드의 합성 CSAM
  • 방대한 LLM 생성 풀 리퀘스트를 헤쳐나가야 하는 일상

저자의 제안 — "멈추는 것"

• ML 사용을 멈추자는 게 핵심 주장 — ML 보조가 실제로 우리의 수행 능력과 끈기를 떨어뜨리고, 직접 작업하면서 얻는 근육 기억과 깊은 이론 구축을 빼앗는다는 논리
  • 제임스 C. 스콧이 말한 '메티스(metis)' — 경험에서 오는 실천적 지혜 — 의 상실을 우려
  • 저자 본인은 글쓰기, 소프트웨어, 개인 생활에서 LLM을 한 번도 사용하지 않았다고 밝힘
• 구체적 행동 강령도 제시함
  • 슬롭 보내는 사람에게 지적하기, 직장에서 ML 위험 플래그 걸기
  • ChatGPT 개인 결제 중단, 회사의 Gemini 도입에 반대하기
  • 노동조합 결성 또는 가입, Copilot 도입 관리자 요구에 저항하기
  • 의회에 전화해서 ML 기업의 탄소·디지털 배출에 대한 공격적 규제 요구
  • AI 기업(Anthropic, xAI 등) 근무자에겐 "솔직히 말하면, 퇴사하라"고까지 말함

그럼에도 불구하고

• 에세이 끝에서 저자 스스로 모순을 인정하는 부분이 인상적 — "그래도 유용해 보인다. 쓰고 싶다. 아마 언젠가 쓸 것 같다"
  • 예시로 든 건 처음 보는 프로토콜의 컬러 체인지 조명 — 한 달간 매뉴얼 파다 vs LLM에게 클라이언트 라이브러리 작성 부탁하기
  • 보안 리스크 적고, 검증 가능하고, 남에게 기술 부채 떠넘기지 않는 제한된 사용 — "뭐가 문제야?"
  • 마지막 "… 그렇지?" 한마디에 저자의 갈등이 다 담겨 있음
• 이 글 자체가 Vim에서 마크다운으로 작성하고, Pandoc으로 조판하고, iPad 스타일러스와 종이 펜으로 편집한 뒤 친구들에게 피드백을 받았다고 — LLM 일절 사용 안 함을 명시