본문으로 건너뛰기
피드

AI는 나쁜 짓이다, 리덕스 — LLM 옹호 개발자와의 논쟁을 포기한 이유

ai-ml 약 3분
vote
0
댓글
북마크

Baldur Bjarnason이 LLM 옹호 개발자들과의 논쟁을 완전히 포기했다는 글. 개인적으로 잘 된다는 주관적 경험이 소프트웨어 생태계 전체의 품질 하락과 괴리되고 있다고 주장.

  • 1

    LLM 신봉자들은 경험적 증거로 설득 불가

  • 2

    소프트웨어 품질이 매달 악화 — POS 리부팅, 재고 누락, AI 생성 로컬라이제이션 오류

  • 3

    거대 PR, 무의미한 테스트, 악성코드 디펜던시 등 원인은 다 알고 있음

  • 4

    시니어 엔지니어가 초보 실수를 못 잡는 퇴행 현상

  • Baldur Bjarnason이 LLM 옹호 개발자들과의 논쟁을 포기했다는 글. 단순한 "AI 비관론"이 아니라 업계 전체가 무너지고 있다는 꽤 격렬한 경고임
  • 핵심 논지: LLM 신봉자들은 경험적 증거로 설득이 안 됨. "챗봇 정신병(chatbot psychosis)", 교육 시스템 해체, 젠더 기반 학대, 생성형 CSAM, 미디어 산업 공격, 극우의 AI 환호 — 이 모든 걸 보고도 "나한테는 잘 되는데?"라고 하는 사람에게 학술 논문을 들이밀어봤자 소용없다는 거임

⚠️주의

> 저자의 관찰: ICE가 LLM을 극단주의자 채용 심사의 책임 회피 도구(accountability sink)로 사용하고 있고, 챗봇 매개 소외(chatbot-mediated alienation)가 취약한 사람들을 정신병적 증상으로 몰고 있다고 주장

  • "시스템 사고를 한다"는 개발자들이 정작 소프트웨어가 수천 명의 노동으로 만들어지는 시스템이라는 걸 이해 못 하고 있다는 비판. 개인적으로 긍정적이어도 소프트웨어 개발 생태계 전체로는 확장되지 않음
  • 저자가 최근 일주일간 주변에서 직접 목격한 현상들:
    • 하루에 두 번 리부팅해야 하는 POS(계산대) 시스템
    • 주문을 랜덤으로 누락하는 재고 관리 시스템
    • AI가 생성한 반쯤 완성된 로컬라이제이션 문자열이 박힌 청구서 양식
  • 원인은 다들 알고 있음: 리뷰 불가능한 거대 PR, 제멋대로인 커밋, 아무것도 테스트하지 않는 테스트, 악성코드를 임포트하는 디펜던시, 학부생 수준의 보안 이슈, 현실과 동떨어진 장황한 문서
  • 시니어 엔지니어들이 "철저히 리뷰했다"면서 초보자 실수를 못 잡음. 본인도 안전하지 않다고 생각하면서도 아웃풋 늘리라는 압박에 도구를 쓰고 있음
  • 결론: 업계가 불타고 있는데 "나한테는 잘 되는데"라고 하는 건, 그리고 그 도구가 동의 없이 만들어진 우익 정치 프로젝트라는 걸 무시하는 건, 근본적으로 나쁜 짓(dick move)이라는 거임

AI 도구의 생산성 향상을 주장하는 쪽과 품질 하락을 우려하는 쪽의 간극이 점점 벌어지고 있음. 구체적 사례들이 주목할 만함.

댓글

댓글

댓글을 불러오는 중...

ai-ml

유튜브, AI 생성 영상에 자동 라벨 붙인다

유튜브가 사실적으로 보이거나 의미 있게 AI로 변경·생성된 콘텐츠에 더 눈에 띄는 라벨을 적용하고, 제작자가 AI 사용 여부를 밝히지 않아도 내부 신호로 감지되면 자동 라벨을 붙이겠다고 밝혔다. 다만 라벨만으로 추천 노출이나 수익화 자격이 바뀌지는 않으며, 제작자는 YouTube Studio에서 잘못된 판정을 수정할 수 있다.

ai-ml

테크 CEO들의 'AI 만능론', 숫자는 아직 그렇게 말하지 않는다

테크 업계에서 AI를 이유로 한 대규모 감원과 조직 재편이 이어지는 가운데, Box 창업자 애런 레비는 CEO들이 실제 업무의 마지막 1마일을 모른 채 AI 에이전트의 능력을 과대평가하고 있다고 지적했다. 2026년 첫 5개월 동안 이미 11만5430명이 해고됐고, 여러 연구는 AI 도입이 체감 생산성만큼 실제 생산성을 끌어올렸다는 근거가 아직 약하다고 말한다.

ai-ml

오픈AI와 앤트로픽, 코딩 에이전트로 드디어 돈 되는 시장을 찾은 듯

사이먼 윌리슨은 오픈AI와 앤트로픽이 코딩 에이전트와 기업용 과금으로 진짜 제품-시장 적합성을 찾았다고 봐. 개인 구독자에게는 월 100달러 플랜이 싸게 느껴지지만, 기업 고객은 이제 사용량 기준 토큰 가격을 그대로 내기 시작했고 이게 대형 고객 예산을 빠르게 흔들고 있다는 얘기야.

ai-ml

컴팔과 GMI 클라우드, 대규모 추론용 AI 인프라 구축 협력

컴팔이 실리콘밸리 기반 AI 인프라 기업 GMI 클라우드와 협력해 대규모 추론과 에이전틱 AI 워크로드에 맞춘 GPU 서버 인프라를 구축한다고 발표했어. COMPUTEX 2026에서는 NVIDIA HGX B300을 지원하는 Compal SGX30-2 같은 고성능 AI 서버 플랫폼도 선보일 예정이야.

ai-ml

AI 쓰면 편해진다더니, 직장인들은 ‘AI 과부하’에 지쳐가는 중

국내 직장인들이 AI 전환 압박, AI 답변 검증 부담, 대체 불안 때문에 피로감을 호소하고 있어. 중앙일보 설문에서는 5284명 중 31.6%가 ‘AI 답변 검증에 시간이 더 걸릴 때’를 가장 지치는 순간으로 꼽았고, 기업들은 무작정 AI 사용량을 밀어붙이는 방식에서 업무 방식 재설계로 넘어가야 한다는 지적이 나와.