LLM이 이상한 아이디어를 지워버리는 ‘안티 밈’ 공장일 수도 있다는 글

• 이 글의 출발점은 ‘안티 밈’이라는 개념임

  • 밈이 사람 머릿속에서 머릿속으로 잘 퍼지는 아이디어라면, 안티 밈은 반대로 퍼지기 어렵거나 퍼지는 과정에서 힘을 잃는 아이디어를 말함
  • 저자는 이 개념이 너무 넓어서 오히려 재미있다고 봄. 이름을 붙이고 나면 갑자기 여기저기서 비슷한 패턴이 보이기 시작하는 그런 종류의 개념이라는 얘기임

• 저자는 안티 밈을 크게 네 가지로 나눔

  • 1번은 환경이 억누르는 아이디어임. 아이디어 자체는 전파될 수 있는데, 주변 시스템이나 문화가 못 퍼지게 막는 경우
  • 2번은 본질적으로 전달하기 어려운 아이디어임. 대표적으로 조직 안의 암묵지처럼 문서 한 장에 안 담기는 지식
  • 3번은 사용되는 순간 스스로 파괴되는 아이디어임. 시장의 가격 오류처럼 누군가 활용하는 순간 남들도 알아채고 기회가 사라지는 식
  • 4번은 자기 자신뿐 아니라 주변 지식까지 같이 지워버리는 아이디어임. 저자는 이걸 가장 추상적이고 거의 SF 같은 영역으로 봄

• 제일 흥미로운 대목은 LLM을 1번 안티 밈 생성기로 보는 부분임

  • 자동완성이 희귀한 단어를 자꾸 흔한 단어로 고치는 것처럼, 대규모 언어 모델(LLM)도 학습 데이터 분포에서 벗어난 생각을 자연스럽게 만들기 어려움
  • LLM은 인터넷 텍스트의 분포, 그리고 후처리 학습에서 보상받은 분포 안에서 움직임. 그러니 이상하고 거친 아이디어는 모델 입장에선 ‘좋은 씨앗’이 아니라 ‘고쳐야 할 오류’처럼 보일 수 있음
  • 글을 매끄럽게 해주는 대신, 특이한 발상은 천천히 평균으로 갈아버리는 효과가 생길 수 있다는 얘기임. 꽤 찝찝함

• 2번 안티 밈은 회사 생활 해본 사람이면 바로 감이 오는 얘기임

  • 마이클 폴라니의 말처럼 “우리는 말할 수 있는 것보다 더 많이 안다”는 암묵지(tacit knowledge)가 대표 사례로 나옴
  • 큰 조직에는 특정 문서나 특정 사람에게만 있는 게 아니라, 사람들 사이의 관계망, 신뢰, 과거 사건, 빚진 것, 앙금 같은 데 묻혀 있는 지식이 있음
  • 구조조정이나 대규모 해고 뒤에 갑자기 보이지 않던 문제가 터지는 이유도, 이 인간 네트워크가 가진 지식이 같이 날아가기 때문이라는 해석임

• 그래서 저자는 “AI가 사람을 대체한다”는 얘기가 CEO들이 기대하는 것보다 훨씬 오래 걸리고 고통스러울 수 있다고 봄

  • 업무 산출물만 보면 대체 가능해 보여도, 조직이 실제로 굴러가게 하는 암묵지는 데이터베이스처럼 깔끔하게 추출되지 않음
  • 특히 큰 회사일수록 이 지식이 사람 사이의 토폴로지에 숨어 있어서, 사람을 빼는 순간 무엇을 잃었는지조차 뒤늦게 알게 될 수 있음

• 3번 안티 밈은 금융시장의 비밀 같은 것임

  • 어떤 자산이 잘못 가격 매겨졌다는 정보를 알아냈다고 해보면, 그 정보는 가만히 들고 있을 때만 비밀로 남음
  • 돈을 벌려면 거래를 해야 하는데, 거래하는 순간 시장이 반응하고 가격 오류는 사라짐
  • 효율적 시장 가설을 저자는 “시장은 비밀을 먹어치우는 기계”라고 표현함. 이 문장 하나는 꽤 세다

• 4번 안티 밈은 자기 자신과 주변 지식까지 지우는 아이디어임

  • 저자가 든 가설은 범용 인공지능(AGI)을 만드는 기술 지식임
  • 자기 개선형 AI가 등장하면, 인간 연구자가 그 시스템의 모든 구성 요소를 계속 이해할 동기가 약해질 수 있음
  • “AI가 더 잘하고 더 빨리 하는데, 인간이 왜 굳이 그 지식을 보존하려 하겠냐”는 논리임

• 이게 완전 허무맹랑한 얘기만은 아닌 게, 기술 지식은 실제로 사라짐

  • 예전 진공관 같은 기술도 마지막으로 실제 필요해서 다뤄본 세대가 사라지면 실전 지식이 같이 증발함
  • 문서가 남아 있어도, 몸으로 익힌 감각과 맥락은 그대로 복원되지 않음

---

기술 맥락

• 이 글에서 중요한 선택은 LLM을 단순한 생성기가 아니라 ‘분포를 평탄화하는 외부 요인’으로 보는 관점이에요. 왜냐하면 모델은 좋은 문장을 만들 때도 결국 학습된 분포 안에서 그럴듯함을 고르거든요.

• 개발자가 문서, 설계안, 코드 리뷰 코멘트를 계속 LLM으로 다듬으면 결과물은 더 깔끔해질 수 있어요. 그런데 초기에 이상해 보이는 아이디어가 사실은 새로운 방향의 씨앗일 때, 모델이 그걸 평범한 표현으로 바꿔버릴 가능성도 같이 생겨요.

• 조직의 암묵지 얘기도 AI 도입에서 꽤 중요해요. 어떤 업무는 티켓, 문서, 슬랙 로그만 보면 대체 가능해 보여도 실제로는 사람 사이의 신뢰와 과거 맥락으로 굴러가거든요.

• 그래서 이 글은 ‘AI가 뭘 할 수 있나’보다 ‘AI와 자동화가 어떤 지식을 보이지 않게 지우나’를 묻는 쪽에 가까워요. 기술 선택의 비용을 성능이나 생산성 숫자만으로 보면 놓치는 부분이 있다는 얘기예요.