AI 시대를 한 발 떨어져 보면 보이는 것들

• 이 글의 핵심은 AI를 생산성 도구 하나로만 보면 너무 좁다는 얘기임
  • 글쓰기, 코딩, 회의록 정리 같은 사용법을 넘어서 데이터 소유권, 비용 구조, 의사결정, 제품 경쟁까지 한꺼번에 흔들고 있음
  • 원문은 여섯 가지 축으로 AI 시대의 풍경을 훑는데, 개발자한테도 꽤 직접적으로 닿는 얘기가 많음

직원 데이터도 권리 문제가 됨

• 회사가 직원의 결과물만 가져가던 시대에서, 일하는 과정 자체를 데이터로 빨아들이는 시대로 넘어가고 있음

  • 회의실이나 라운지에 AI 스피커를 두고 대화를 녹음한 뒤 정리해 활용하는 사례가 언급됨
  • 메신저 전체 대화 로그를 AI에 학습시켜 인사평가에 반영한 회사도 있었다고 함
  • 중국의 한 회사는 퇴사한 직원의 근무 기록 전체를 학습해 그 사람의 가상 버전을 만들었다는 사례까지 나옴

• 문제는 산출물과 사람의 사고방식 사이의 경계가 흐려진다는 점임

  • 결과물이 회사 자산이라는 건 기존에도 어느 정도 받아들여졌음
  • 그런데 문제 접근 방식, 커뮤니케이션 습관, 동료와 나눈 대화까지 회사 자산처럼 다뤄지면 얘기가 달라짐
  • 퇴사한 사람의 노하우가 모델 안에 남아 계속 쓰인다면 지식 이전인지 착취인지 따져야 하는 단계가 됨

AI 비용은 생각보다 빨리 현실이 됨

• 디지털 전환은 인터넷 인프라가 싸고 넓게 깔린 덕을 많이 봤지만, AI는 비용 구조가 다름

  • AI 인프라는 반도체, 전력 시설, 광케이블 같은 물리 자본 투자가 계속 들어감
  • 사용자는 공짜처럼 느껴도 실제로는 매 호출마다 토큰 비용이 발생함
  • 모델이 좋아질수록 사용량도 늘고, 빅테크는 언젠가 인프라 투자비를 회수해야 함

• 그래서 기업 안에서는 이미 토큰 비용 관리가 실무 이슈로 들어오고 있음

  • 클라우드 비용을 관리하는 FinOps처럼, AI 사용량과 비용을 따지는 흐름이 생김
  • 어떤 직무에 토큰을 얼마나 배정할지, 어떤 업무가 투자 대비 효과를 내는지 계산해야 함
  • 비용이 부담되면 비싼 모델 대신 가성비 모델을 쓰거나, AI 사용 가능 직무를 제한하는 식으로 갈 수 있음

• 이 패턴은 ERP나 클라우드 도입 때랑 꽤 닮아 있음

  • 좋다는 건 알지만 비용 때문에 도입을 미루는 회사가 생김
  • 어떤 팀은 최신 도구를 쓰고, 어떤 팀은 여전히 엑셀과 수작업으로 버티는 식의 격차도 남을 수 있음

더 많이 학습할수록 품질 문제가 커질 수 있음

• AI가 똑똑해질수록 오히려 멍청해질 수 있다는 역설은 데이터 품질 문제에서 나옴

  • 초기 모델은 상대적으로 검증된 고품질 데이터에 기대는 비중이 컸음
  • 학습 데이터가 폭증하면 낮은 품질의 글, 검증 안 된 정보, AI가 만든 콘텐츠까지 섞일 가능성이 커짐
  • AI가 만든 콘텐츠가 인터넷에 쌓이고, 그걸 다시 다음 모델이 먹는 구조가 되면 오염이 누적될 수 있음

• 속도와 품질은 여기서 정면충돌함

  • 더 빨리 발전하려면 더 많이 학습해야 함
  • 하지만 데이터를 하나하나 정제하면 지금 같은 성장 속도를 유지하기 어려움
  • 이미 들어간 데이터를 나중에 정리하는 건 새로 학습하는 것보다 더 복잡하고 비싼 일이 될 수 있음

• 금융, 보안, 기밀 데이터를 다루는 조직이 AI 도입을 조심스럽게 보는 이유도 여기에 있음

  • 틀린 답변 하나가 단순 불편이 아니라 사고로 이어질 수 있음
  • 모델 성능보다 학습 데이터의 출처와 품질 관리가 더 중요한 영역이 분명히 존재함

의사결정의 마지막 자리는 쉽게 비지 않음

• 반복 업무와 운영 업무는 AI가 빠르게 가져갈 수 있지만, 최종 의사결정은 다른 문제임

  • 특히 HR처럼 사람과 조직의 맥락이 강한 영역에서는 데이터만으로 결론을 내리기 어려움
  • 대표나 리더의 직관, 경험, 성향이 실제 결정에 크게 작용함
  • 스타트업처럼 의사결정이 창업자의 감각에 많이 묶인 조직일수록 이 충돌이 더 커질 수 있음

• AI는 합리적인 제안을 할 수 있지만, 리더의 비합리적인 듯한 판단을 그대로 이해하긴 어려움

  • 대표가 AI 제안을 마음에 안 들어 할 때마다 자기 의견을 밀어붙일 수 있음
  • AI는 그 패턴을 오류나 비일관성으로 볼 가능성이 큼
  • 결국 데이터 기반 제안과 사람의 직관 사이를 번역해줄 사람이 필요해짐

• 그래서 일부 직무는 AI 때문에 사라지기보다 역할이 바뀔 가능성이 큼

  • 단순 실행자는 줄어들 수 있음
  • 대신 데이터, 조직 맥락, 사람의 판단을 연결하는 조정자 역할은 더 중요해질 수 있음

AI가 짠 코드는 만드는 것보다 고치는 게 문제임

• AI 덕분에 작은 서비스나 기능을 만드는 속도는 확실히 빨라졌음

  • 비개발자도 어느 정도 돌아가는 프로토타입을 만들 수 있는 시대가 됨
  • 개발 진입장벽이 낮아진 건 분명 긍정적인 변화임
  • 하지만 운영되고 확장되는 시스템을 설계하는 일은 여전히 훨씬 어려움

• 진짜 비용은 장애가 났을 때 드러남

  • AI가 작성한 코드에서 문제가 터지면 사람이 다시 구조와 의도를 추적해야 함
  • 직접 짠 코드보다 왜 이렇게 되어 있는지 모르는 상태에서 디버깅해야 해서 더 고통스러울 수 있음
  • AI는 현재 요청에는 잘 반응하지만, 그 수정이 다른 기능에 주는 파급효과까지 안정적으로 보장하진 못함

• 전사 구성원이 각자 AI로 기능을 붙여나가는 조직에서는 코어가 흔들릴 수 있음
  • 작은 기능은 빨리 늘어나는데 전체 구조를 보는 사람이 없으면 어느 순간 원인 추적이 어려운 오류가 터짐
  • 짓는 속도는 빨라졌지만, 무너졌을 때 고치는 손은 더 많이 필요해지는 셈임

만들기는 쉬워졌고, 돈 벌기는 어려워짐

• 예전에는 개발 비용과 시간이 자연스러운 필터 역할을 했음

  • 서비스를 만들기 전에 이게 정말 필요한지 오래 고민할 수밖에 없었음
  • 개발 자체가 비싸고 느렸기 때문에 허술한 아이디어는 시작 단계에서 걸러졌음

• AI로 개발 비용이 낮아지면서 그 필터가 사라지고 있음

  • 아이디어가 떠오르면 일단 만들어보는 사람이 늘어남
  • 서비스와 프로덕트가 넘쳐나면서 사용자는 오히려 뭘 골라야 할지 판단해야 하는 부담이 커짐
  • 비슷한 대체재가 많고, 마음에 안 들면 직접 만들 수도 있으니 지갑을 여는 기준이 더 높아짐

• 결국 제품 경쟁의 중심은 만드는 능력에서 선택받는 능력으로 이동함

  • 기능 구현만 빠른 서비스는 금방 복제되거나 대체됨
  • 실제 문제를 정확히 잡고, 계속 쓸 이유를 만드는 쪽이 더 중요해짐

---

기술 맥락

• 이 글에서 말하는 AI 비용 문제는 단순히 요금제가 비싸질 수 있다는 얘기가 아니에요. 기업 입장에서는 모델 호출이 곧 운영비가 되기 때문에, 클라우드 리소스처럼 누가 얼마나 쓰고 어떤 효과를 냈는지 관리해야 하거든요.

• AI 코딩 얘기도 핵심은 코드 생성 능력이 아니라 유지보수 책임이에요. AI가 빠르게 만든 코드는 당장 돌아갈 수 있지만, 장애가 났을 때 설계 의도와 변경 이력을 사람이 설명할 수 없으면 운영 비용이 뒤늦게 폭발해요.

• 직원 데이터 이슈는 모델 학습 레이어와 조직 관리 레이어가 겹치면서 생겨요. 업무 대화, 문제 해결 방식, 노하우가 학습 데이터가 되면 개인의 경험이 회사 시스템 안에 남게 되고, 그래서 소유권과 동의 범위를 새로 정해야 해요.

• 데이터 품질 문제는 대규모 언어 모델이 더 많은 데이터를 먹을수록 항상 좋아진다는 단순한 믿음을 흔들어요. AI가 만든 저품질 콘텐츠가 다시 학습 데이터로 들어가면, 모델 개선 속도와 신뢰성 사이에서 조직이 선택해야 하는 순간이 와요.