기업 AI 예산이 터지자, 오픈소스 모델로 눈 돌리는 흐름이 빨라지는 중

• 기업들이 AI를 ‘일단 붙여보자’에서 ‘이거 돈값 하냐’로 보기 시작함

  • 아마존 CTO 베르너 포겔스는 고객들이 고가의 대형 모델에서 저렴한 오픈소스 모델 쪽으로 이동하는 흐름을 보고 있다고 말함
  • 핵심은 단순함. 대부분의 업무에 항상 가장 크고 최고 성능인 모델이 필요한 건 아니라는 것

• 토큰 과금은 실험할 때는 괜찮아 보여도, 회사 전체가 쓰기 시작하면 바로 예산 문제가 됨

  • 포천에 따르면 우버는 올해 AI 예산을 4개월 만에 다 써버린 사례로 언급됨
  • 어떤 기업은 직원들의 AI 사용량을 제어하지 못해 한 달에 5억 달러를 지출한 사례도 나왔다고 함
  • 오픈AI, 앤트로픽, 구글 딥마인드 같은 최첨단 모델은 성능은 좋지만, 대규모 운영에서는 토큰 단가가 그대로 압박이 됨

• 그래서 기업의 모델 선택 기준이 바뀌는 중임

  • 예전에는 ‘가장 강한 모델을 쓰면 된다’에 가까웠다면, 이제는 성능, 비용, 규제 리스크, 운영 유연성을 같이 봄
  • 포겔스는 기업들이 AI 도입 전략이 성숙해지면서 투자 대비 효과를 본격적으로 따지기 시작했다고 봄
  • 오픈라우터의 저스틴 서머빌은 오픈소스 및 중국산 AI 모델이 주요 독점 시스템보다 60~90% 저렴할 수 있다고 말함

• 오픈소스 모델이 주목받는 이유는 싸서만이 아님

  • 포겔스는 기업들이 AI가 어떤 데이터로 학습됐는지 알고 싶어 한다고 말함
  • 의료, 정부, 인도주의 분야에서는 모델 성능만큼이나 투명성과 신뢰성이 중요함
  • 취약계층을 지원하는 기관이 시스템을 못 믿으면, 결국 아무리 좋아도 안 쓰게 된다는 얘기

• 성능 격차도 예전만큼 절대적이지 않다는 평가가 나옴

  • 브루킹스연구소 카일 챈 연구원은 중국 AI 모델이 미국 최첨단 시스템보다 6~9개월 정도 뒤처진 수준으로 추정함
  • 이 정도 격차라면 모든 워크로드에 비싼 모델을 고집할 이유가 줄어듦
  • 특히 내부 문서 처리, 고객지원, 단순 에이전트 작업처럼 비용 민감도가 큰 영역에서는 더 싼 모델이 충분히 매력적임

• 알리바바 큐원은 오픈소스 AI 확산의 대표 사례로 튀어나옴

  • 큐원은 올해 초 허깅페이스 누적 다운로드 10억 건을 넘김
  • 메타 라마를 제치고 세계에서 가장 많이 다운로드된 오픈소스 AI 모델 계열로 자리 잡았다고 소개됨
  • 하루 평균 다운로드는 약 110만 건, 파생 모델은 20만 개 이상으로 알려짐
  • 인터커넥츠 AI 조사에서는 큐원이 지난 2월에만 1억5360만 건 다운로드를 기록했다고 함

• 규제 불확실성도 오픈소스 쪽으로 기업을 밀고 있음

  • 미국 정부가 국가 안보와 기술 통제를 이유로 첨단 AI 모델 배포와 활용을 제한하려는 움직임을 보이고 있음
  • 기업 입장에서는 특정 독점 생태계에 모든 AI 기능을 묶어두는 게 리스크가 될 수 있음
  • 결국 자체 배포 가능성, 벤더 락인 회피, 비용 통제까지 합쳐져 오픈소스 모델 검토가 더 현실적인 선택지가 되는 분위기임

---

기술 맥락

• 여기서 핵심 선택은 ‘항상 최고급 독점 모델을 쓸 것인가, 업무별로 더 싼 오픈소스 모델을 섞을 것인가’예요. AI 기능이 파일럿을 넘어 전사 서비스가 되면 토큰 단가가 곧 인프라 비용이 되거든요.

• 오픈소스 모델이 매력적인 이유는 비용만이 아니에요. 기업은 학습 데이터, 배포 위치, 데이터가 외부 API로 나가는지 여부를 따져야 하고, 의료나 공공 영역에서는 이 투명성이 성능만큼 중요해요.

• 다만 모든 걸 오픈소스로 바꾸면 된다는 얘기는 아니에요. 복잡한 추론이나 최신 멀티모달 작업은 여전히 고성능 독점 모델이 유리할 수 있어서, 실제로는 비싼 모델과 저렴한 모델을 라우팅하는 구조가 더 현실적이에요.

• 개발팀 입장에서는 모델 선택이 이제 프롬프트 품질 문제가 아니라 비용 관측성, 토큰 사용량 제한, 업무별 모델 라우팅, 자체 호스팅 가능성까지 포함한 아키텍처 문제가 돼요. 이 흐름을 놓치면 기능은 잘 붙였는데 청구서에서 터질 수 있어요.