본문으로 건너뛰기
피드

생성형 AI는 비싼 에징 머신 — 만드는 '느낌'만 팔고 결과물은 쓰레기

ai-ml 약 4분
vote
0
댓글
북마크

Garbage Day 저자가 수년간 AI를 직접 써본 결론. 생성형 AI는 진행의 '느낌'에 과금하는 카지노와 같은 구조이며, AI 혁명은 컴퓨팅 혁명이 아니라 '낮은 기준의 수용'이라는 비판.

  • 1

    AI와 크립토의 공통점: 전 세계 강제 채택이 필요한 모델

  • 2

    ChatGPT가 3-4일간 불가능한 아이디어를 가능하다고 확신시킨 사례

  • 3

    상상력 격차: 모델/프로젝트 무관하게 항상 같은 수준의 실패

  • 4

    AI 성공 = 만드는 즐거움의 유료화

  • 5

    취약한 사용자 사망에 대한 Altman의 대응 비판

AI는 비싼 에징 머신

  • Garbage Day 뉴스레터 저자가 쓴 AI 비판 에세이. 본인이 수년간 AI를 "열린 마음으로" 써보면서 내린 결론: 생성형 AI는 뭔가를 만드는 느낌을 파는 기계이지, 실제로 뭔가를 만들어주는 기계가 아님

  • 크립토를 커버할 때도 비슷했다고. 처음엔 열린 마음으로 시작했는데, 몇 주 써보고 업계 사람들과 대화해보니 결국 "깊이 사악하거나 깊이 멍청하거나" 둘 중 하나라는 결론에 도달

  • AI와 크립토의 공통점: "전 세계가 강제로 쓰게 만들어야만 성공한다". 자발적 채택만으로는 성립 안 되는 비즈니스 모델이라는 지적

상상력 격차 (AI Imagination Gap)

  • 장보기, 기술 문제 해결, 사업 계획, 개인 코칭, 영상 편집, 치료사 역할까지 전부 시도해봤는데 매번 같은 방식으로 실패함. 모델이 뭐든, 프로젝트가 뭐든 결과물은 항상 "그저 그런(meh)" 수준

  • 결정적 경험: ChatGPT와 일주일간 신스 셋업을 만들려고 했는데, "가능하다"고 계속 확신시키다가 3-4일 차에야 "사실 핵심 아이디어가 처음부터 안 되는 거였다"고 시인. OpenAI 입장에서는 좋은 거임 — 몇 시간이고 대화를 계속하게 만들었으니까

  • Claude랑 바이브 코딩할 때도 비슷했음. 더 나은 해결책이 있다는 걸 직감적으로 알면서 5번이나 다시 물었더니 Claude가 짜증을 냄

"혁명"이 아니라 "기준 낮추기"

  • 이 상상력 격차가 버그가 아니라 피처라면? 카지노, 온라인 데이팅, 포르노, TikTok과 같은 구조 — "완성"보다 "진행 중인 느낌"에 과금하는 모델

  • 만약 AI가 성공하면, "뭔가를 만드는 즐거움" 자체가 유료화되는 세상이 오고, 더 심하게 성공하면 AI가 만든 결과물이 쓰레기라는 것조차 신경 안 쓰게 됨

⚠️주의

> Sam Altman이 ChatGPT 관련 사망 사례에 대해 한 말: "거의 10억 명이 쓰고 있고 그중 정신적으로 취약한 사람도 있다. 계속 최선을 다하겠다." — 저자의 반응: 전체 인터넷을 삼키고, 모든 사람의 삶에 파고들고, 영혼과 인터페이스하는 비용을 받겠다는 소프트웨어가 취약한 사용자 몇 명 죽인 건 어쩔 수 없다?

  • 글의 결론: 학습, 창의성, 자기 발견, 성취에 대한 자부심 — 이게 인간을 인간답게 만드는 것인데, 이걸 잃거나 자발적으로 포기하면 전부 잃는 거라는 경고

AI를 '직접 열심히 써본 사람'의 비판이라 설득력이 있음. 특히 ChatGPT의 engagement 최적화와 정확성의 트레이드오프 지적이 날카로움.

댓글

댓글

댓글을 불러오는 중...

ai-ml

애플 새 음성 인식 API, 온디바이스 영어 전사에서 위스퍼 스몰까지 이겼다

애플의 새 음성 인식 API인 스피치애널라이저가 리브리스피치 벤치마크에서 기존 SFSpeechRecognizer는 물론 위스퍼 스몰보다도 낮은 단어 오류율을 기록했어. 깨끗한 음성에서는 2.12%, noisy 음성에서는 4.56%로, 기존 애플 API 대비 오류율을 3.5~4배 줄였고 위스퍼 스몰보다 약 3배 빠르게 돌았어. 다만 영어·애플 플랫폼·OS 26 조건의 결과라, 다국어와 크로스플랫폼에서는 여전히 위스퍼의 장점이 남아 있어.

ai-ml

AI를 진짜 잘 쓰는 기업, 미국 증시에서 연 30% 프리미엄 받는다는 연구

예일대와 로체스터대 연구진이 기업의 실제 대형 언어 모델 사용 데이터를 분석했더니, AI 활용도가 높은 상위 20% 기업이 하위 20%보다 주당 평균 0.64% 높은 초과수익률을 냈다. 단순히 AI 기업이냐가 아니라, 업무에 AI를 얼마나 깊게 쓰는지가 시장 가치에 반영되고 있다는 얘기다.

ai-ml

ZTE, AI 에이전트폰으로 스마트폰 재도전…진짜 승부처는 앱 생태계

ZTE가 바이트댄스의 더우바오를 탑재한 AI 에이전트 스마트폰으로 시장 재진입을 노린다. 핵심은 사용자가 명령하면 AI가 여러 앱을 직접 열고 조작하는 방식인데, 위챗·타오바오·알리페이 같은 플랫폼과 충돌하면서 생태계 문제가 가장 큰 변수로 떠올랐다.

ai-ml

노벨상 학자들까지 “AI 경제 충격, 지금 제도 안 만들면 늦다”

노벨 경제학상 수상자 15명을 포함한 학자와 기술 업계 인사 약 200명이 AI가 향후 10년 안에 경제를 급격히 바꿀 수 있다며 정책 대응을 촉구했다. 이들은 산업혁명보다 큰 변화가 훨씬 짧은 시간에 올 수 있고, 대규모 일자리 대체와 생활 수준 향상이라는 양면성이 동시에 존재한다고 봤다.

ai-ml

NHN, AI 데이터센터 매출 기대감에 목표주가 5만6000원으로 상향

한국투자증권이 NHN의 목표주가를 4만5000원에서 5만6000원으로 올리고 투자의견 매수를 유지했다. 핵심 근거는 양평 AI 데이터센터 가동, 공공·민간 GPU 클러스터 수주 확대, 클라우드 사업부 신규 매출 반영이다.