본문으로 건너뛰기
피드

휴먼 인 더 루프는 버그가 아니라 기능임

ai-ml 약 3분
vote
0
댓글
북마크

Node.js/Fastify/Undici 메인테이너가 AI 시대에도 인간의 리뷰와 판단력이 핵심이라고 주장하는 반론

  • 1

    AI가 코딩 속도를 높였지만 병목이 코딩에서 리뷰로 이동함

  • 2

    Bloomberg Terminal이 비싼 건 코드가 아니라 시스템 신뢰성을 담보하는 사람 때문

  • 3

    오픈소스 메인테이너에게 AI는 또 하나의 컨트리뷰터일 뿐, 리뷰는 원래 주 업무

  • 4

    AI가 썼으니 내 책임 아님이 통용되는 문화가 진짜 위험

  • 5

    2026년 핵심 스킬은 프롬프팅이 아니라 판단력(judgment)

  • Node.js/Fastify/Undici 메인테이너 Matteo Collina가 "소프트웨어 개발의 죽음" 글에 대해 반론을 펼침

  • 본인도 AI를 매일 쓰고 있음 — 보안 취약점, 버그 수정, 신기능 구현을 AI에 맡기고 수십 건을 이 방식으로 출하했음

  • 그런데 핵심은: 모든 변경을 직접 리뷰한다는 것

  • 병목이 "코딩 속도"에서 "리뷰 능력"으로 이동함. 이게 올바른 방향이라고 봄

  • 보안 취약점 수정할 때 테스트 통과 여부만 보는 게 아님 — 공격 벡터를 실제로 막는지, AI가 놓친 엣지 케이스는 없는지, 이게 올바른 수정인지를 판단해야 함

  • Bloomberg Terminal이 월 3만 달러인 이유? 코드가 어려워서가 아님. 금융 시장, 규제, 데이터 무결성, 시스템 신뢰성을 이해하는 사람들이 뒤에 있기 때문임. "나 같은 바보도 2시간 만에 클론을 만들었다"는 자랑에 대한 답: 그 클론에 버그가 나서 누군가 잘못된 거래를 하면 누가 책임짐?

  • 40년간의 개발 관행은 재고가 필요하다는 원글 주장에는 동의함 — 코드리뷰 프로세스, 스프린트 플래닝, "개발자 늘리면 산출량 증가" 같은 가정 모두 재검토 대상

  • 오픈소스 메인테이너는 원래부터 남이 짠 코드를 리뷰하는 게 주 업무였음. AI는 그냥 또 하나의 컨트리뷰터일 뿐

  • 본인도 완전히 이해 못 한 채 머지한 기여가 있었음. 후회함. 그런 코드는 버그 잡기도, 설명하기도, 기술부채 관리하기도 어려움

  • 진짜 걱정되는 건: "AI가 썼으니 내 책임 아님"이 통용되는 문화가 만들어지는 것

  • 산업혁명 비유가 적절함 — 산업혁명은 상품만 풍부하게 한 게 아니라 산업 재해, 공해, 대규모 사고라는 새로운 카테고리를 만들었음. AI 코드 생성도 마찬가지. 타이핑 속도가 아닌 AI 속도로 이해 못 하는 코드를 쏟아내면 피해 규모가 다름

  • 2026년에 중요한 스킬은 프롬프팅이 아니고, "에이전틱 인프라"도 아님. 판단력(judgment)

  • 더 빠른 패턴 인식, 실패 모드에 대한 멘탈 모델, 행동 검증의 효율화 — 이런 걸 갈고닦아야 함

  • "Human in the loop는 고쳐야 할 버그가 아니라 지켜야 할 기능" — 이 한 줄이 전부임

AI 도입으로 생산성은 올랐지만, 산업혁명이 새로운 재해를 만든 것처럼 AI 코드도 대규모 사고 가능성을 내포하며, human in the loop는 최적화 대상이 아니라 보호 대상

댓글

댓글

댓글을 불러오는 중...

ai-ml

유튜브, AI 생성 영상에 자동 라벨 붙인다

유튜브가 사실적으로 보이거나 의미 있게 AI로 변경·생성된 콘텐츠에 더 눈에 띄는 라벨을 적용하고, 제작자가 AI 사용 여부를 밝히지 않아도 내부 신호로 감지되면 자동 라벨을 붙이겠다고 밝혔다. 다만 라벨만으로 추천 노출이나 수익화 자격이 바뀌지는 않으며, 제작자는 YouTube Studio에서 잘못된 판정을 수정할 수 있다.

ai-ml

테크 CEO들의 'AI 만능론', 숫자는 아직 그렇게 말하지 않는다

테크 업계에서 AI를 이유로 한 대규모 감원과 조직 재편이 이어지는 가운데, Box 창업자 애런 레비는 CEO들이 실제 업무의 마지막 1마일을 모른 채 AI 에이전트의 능력을 과대평가하고 있다고 지적했다. 2026년 첫 5개월 동안 이미 11만5430명이 해고됐고, 여러 연구는 AI 도입이 체감 생산성만큼 실제 생산성을 끌어올렸다는 근거가 아직 약하다고 말한다.

ai-ml

오픈AI와 앤트로픽, 코딩 에이전트로 드디어 돈 되는 시장을 찾은 듯

사이먼 윌리슨은 오픈AI와 앤트로픽이 코딩 에이전트와 기업용 과금으로 진짜 제품-시장 적합성을 찾았다고 봐. 개인 구독자에게는 월 100달러 플랜이 싸게 느껴지지만, 기업 고객은 이제 사용량 기준 토큰 가격을 그대로 내기 시작했고 이게 대형 고객 예산을 빠르게 흔들고 있다는 얘기야.

ai-ml

컴팔과 GMI 클라우드, 대규모 추론용 AI 인프라 구축 협력

컴팔이 실리콘밸리 기반 AI 인프라 기업 GMI 클라우드와 협력해 대규모 추론과 에이전틱 AI 워크로드에 맞춘 GPU 서버 인프라를 구축한다고 발표했어. COMPUTEX 2026에서는 NVIDIA HGX B300을 지원하는 Compal SGX30-2 같은 고성능 AI 서버 플랫폼도 선보일 예정이야.

ai-ml

AI 쓰면 편해진다더니, 직장인들은 ‘AI 과부하’에 지쳐가는 중

국내 직장인들이 AI 전환 압박, AI 답변 검증 부담, 대체 불안 때문에 피로감을 호소하고 있어. 중앙일보 설문에서는 5284명 중 31.6%가 ‘AI 답변 검증에 시간이 더 걸릴 때’를 가장 지치는 순간으로 꼽았고, 기업들은 무작정 AI 사용량을 밀어붙이는 방식에서 업무 방식 재설계로 넘어가야 한다는 지적이 나와.