한 개발자가 생성형 인공지능을 전면 거부하는 이유

생성형 인공지능 전체에 대한 꽤 날 선 반대문

• 필자는 먼저 “내가 싫어하는 건 머신러닝 전체가 아니다”라고 선을 그음

  • 이미지에서 정지 표지판을 찾는 식의 실용적인 머신러닝은 오히려 유용한 분야로 봄
  • 비판 대상은 텍스트, 이미지, 영상 같은 콘텐츠를 만들어내는 생성형 인공지능(GenAI)
  • 특히 대규모 언어 모델(LLM)과 이미지·영상 생성 모델이 글 전체의 공격 대상임

• 핵심 주장은 생성형 인공지능이 인간 창작물을 대규모로 가져가서 다시 유료 구독으로 파는 구조라는 것

  • 인터넷에 공개된 사람이 만든 콘텐츠를 학습 데이터로 긁어감
  • 그 데이터로 모델을 만들고, 접근권은 구독 상품으로 판매함
  • 필자는 이걸 “공공에서 훔친 걸 다시 대여해주는 자본주의의 완성판”에 가깝게 봄

• “인류를 위한 기술”이라는 포장도 믿지 않는다고 함

  • 정말 공익이 목적이라면 데이터는 합법적으로 확보되고, 개발은 공개적으로 이뤄지고, 모델 접근도 무료에 가까워야 한다는 논리
  • 현실은 점점 비싸지는 구독료와 폐쇄적인 접근 권한이라는 지적임

허위정보와 교육 문제

• 필자는 생성형 인공지능이 허위정보 생산을 자동화한다고 봄

  • 예전에도 댓글 공장과 선전 조직은 있었지만, 사람을 대규모로 동원해야 했음
  • 이제는 대규모 언어 모델로 커뮤니티마다 감정적으로 반응할 만한 댓글을 자동 생성할 수 있음
  • 2026년에 인터넷 댓글 때문에 화가 났다면, 그게 실제 사람이 아니라 분노를 유도하려고 만든 봇일 가능성도 있다고 주장함

• 정치적 극단화와도 연결해서 봄

  • 필자는 독일 사례를 들며 극단 정당과 외부 영향력, 친러시아적 논점 확산을 언급함
  • 생성형 댓글과 봇이 사람들의 감정을 자극하고 극단적 정치 성향으로 밀어붙일 수 있다는 걱정임
  • 특히 우파 성향을 명시적으로 주입한 모델까지 나오면 더 위험하다고 봄

• 교육 분야에서는 집중력과 사고력을 갉아먹는다고 비판함

  • 짧은 영상형 콘텐츠와 생성형 도구가 학생들의 집중력을 망친다고 봄
  • 대형 기술 기업들이 학교와 대학에 대규모 언어 모델 접근권을 제공하는 흐름도 문제로 봄
  • 필자는 교육 현장에서 생성형 도구를 태양으로 날려버리고 싶다는 인용문까지 가져오며 강하게 동조함

개발자에게 특히 뼈아픈 부분

• 프로그래밍 학습 방식이 완전히 바뀌었다는 게 필자의 가장 강한 문제의식 중 하나임

  • 예전에는 시행착오로 뭔가를 고치면서 감을 익혔음
  • 지금은 프롬프트를 넣고 나온 코드를 붙여 넣는 식으로 문제를 통과하는 경우가 많다고 봄
  • 그 과정에서 “이게 가능한 해결책인지” 판단하는 감각이 사라진다는 주장임

• 단순히 리눅스 명령어 옵션을 까먹어서 물어보는 수준을 말하는 게 아님

  • 예시는 훨씬 위험함
  • 사람이 이해하지 못한 파이프와 xargs 명령을 터미널에 붙여 넣고 망하지 않길 기도하는 식의 사용을 지적함
  • 코드도 마찬가지로, 설명하지 못하는 해결책을 그대로 프로젝트에 넣는 일이 늘어난다고 봄

• 바이브 코딩에 대한 비판은 더 세다

  • 요구사항만 던지고 전체 프로그램이나 큰 기능 덩어리를 생성하는 방식
  • 심하면 생성된 코드를 제대로 읽지도 않고 병합 요청(MR/PR)으로 올림
  • 작성자는 일을 적게 했지만, 리뷰어는 9001줄짜리 자동 생성 코드를 검토해야 하는 상황이 생긴다는 비꼼이 나옴

• 필자는 5년에서 10년 뒤를 꽤 암울하게 봄

  • 대규모 언어 모델에 의존해 만든 유지보수 불가능한 코드가 코드베이스마다 쌓일 거라고 예측함
  • 작성자들은 모델 없이는 작업을 못 하는 상태가 될 수 있음
  • 기술 부채가 너무 커져 모델조차 제대로 못 고치는 순간, 그걸 치우는 역할이 조직에 새로 생길 거라고 봄

• “모델이 계속 좋아지면 해결된다”는 주장에도 회의적임

  • 생성형 인공지능 붐에는 수천억 달러 규모의 투자가 들어갔고, 투자자는 결국 수익을 요구할 거라는 논리
  • 초기에는 좋아 보였던 프런티어 모델이 시간이 지나며 품질은 떨어지고 가격은 유지되거나 오르는 현상도 언급함
  • 결국 더 나은 코딩 에이전트가 나온다 해도 싸게 해결될 거라고 보지 않음

커뮤니케이션까지 오염된다는 주장

• 필자는 생성형 인공지능이 글쓰기 생산성을 높인다는 주장도 뒤집어서 봄

  • 두 줄이면 될 반대 의견을 500단어짜리 자동 생성 이메일로 보내면, 작성자는 빨라졌을지 몰라도 읽는 34명의 시간이 타버림
  • 조직 전체로 보면 생산성이 아니라 독해 비용이 늘어난다는 지적임

• 더 아이러니한 건, 길어진 자동 생성 글을 다시 대규모 언어 모델로 요약한다는 점임

  • 한쪽에서 자동 생성으로 글을 부풀림
  • 다른 쪽에서는 너무 길어서 자동 요약을 돌림
  • 필자는 이걸 양쪽 프록시가 붙은 터널인데 전송 인코딩이 ‘슬롭’인 상황처럼 묘사함

• 마지막 결론은 꽤 비관적임

  • 생성형 인공지능을 병에서 다시 집어넣을 수는 없다고 인정함
  • 인터넷은 예전으로 돌아가지 않을 것이고, 글에서 말한 문제들은 더 커질 거라고 봄
  • 다만 반감이 더 커지고, 언젠가 이 사회적·기술적 파괴 기계가 멈추길 바란다고 끝맺음함