기업 60%가 인공지능 지출에 제동…오픈소스 모델엔 기회가 열림

• 기업들이 인공지능 지출에 슬슬 브레이크를 밟고 있다는 분석이 나옴

  • 유비에스 애널리스트들이 최근 몇 주 동안 십여 명의 기업 정보기술 임원과 대화한 결과임
  • 그중 약 60%가 인공지능 관련 지출을 어떤 형태로든 억제하거나 제한하고 있다고 함

• 가장 직접적인 압박은 토큰 비용임

  • 대기업에서는 최고재무책임자와 최고기술책임자가 인공지능 비용 증가를 직접 보고 있음
  • 우버 운영 책임자 앤드루 맥도널드는 5월에 투자 대비 효과가 낮으면 비용 상승을 정당화하기 어렵다고 말함
  • 이제 인공지능은 실험 예산이 아니라 운영비 항목으로 들어가기 시작한 셈임

• 유비에스는 이 흐름을 ‘공포 신호’보다는 건전한 조정으로 봄

  • 기업들이 인공지능 도입을 멈추려는 건 아니라고 해석함
  • 다만 토큰 지출 최적화가 대부분 기업의 중요한 과제가 됐다는 점은 분명함
  • 도입 초기 기업이나 투자 대비 효과가 뚜렷한 조직은 지출 장벽을 덜 느낄 수 있음

• 비용 절감 압박은 상용 모델 업체에 먼저 영향을 줄 가능성이 큼

  • 오픈에이아이와 앤트로픽 같은 모델 개발사가 단기적으로 영향을 받을 수 있다는 분석임
  • 특히 코딩이 아닌 업무용 모델을 찾는 기업은 딥시크 같은 오픈소스 중국산 모델을 더 적극적으로 검토할 수 있음
  • 성능이 아주 최고가 아니어도, 충분히 쓸 만하고 싸면 기업 입장에서는 계산이 달라짐

• 개발팀 입장에서는 모델 선택 기준이 바뀌고 있음

  • 예전에는 ‘제일 똑똑한 모델’이 기본 선택지였다면, 이제는 작업별로 비용 대비 성능을 따져야 함
  • 간단한 분류, 문서 요약, 내부 검색 보조 같은 작업은 더 저렴한 모델로 라우팅하는 전략이 현실적임
  • 다음 세대 칩으로 훈련된 새 모델이 나오면 토큰 비용이 더 낮아질 가능성도 언급됨

---

기술 맥락

• 기업들이 지금 고민하는 건 인공지능을 쓸지 말지가 아니라, 어떤 작업에 어떤 모델을 붙일지예요. 모든 요청을 최고가 모델로 보내면 구현은 쉽지만, 사용량이 늘어나는 순간 비용이 통제하기 어려워지거든요.

• 토큰 최적화가 중요한 이유는 입력과 출력이 모두 돈이기 때문이에요. 프롬프트가 길어지고, 사내 문서를 많이 붙이고, 사용자 수가 늘어나면 비용이 선형으로 커질 수 있어서 재무팀까지 보는 운영비가 돼요.

• 오픈소스 모델이 기회를 얻는 지점도 여기예요. 자체 운영과 튜닝 부담은 있지만, 반복적인 비코딩 업무나 내부 문서 처리처럼 성능 요구가 상대적으로 낮은 작업에서는 비용을 줄이는 대안이 될 수 있어요.

• 그래서 실제 도입에서는 모델 라우팅이 중요해져요. 어려운 추론은 고성능 모델로 보내고, 단순 분류나 초안 작성은 저렴한 모델로 처리하면 품질과 비용 사이에서 균형을 잡을 수 있거든요.