기업들이 비싼 AI 모델 대신 저렴한 오픈소스 모델로 갈아타는 중

• 기업들이 이제 AI 비용 청구서를 진짜로 보기 시작함

  • 악시오스 보도에 따르면, 사용량을 더 촘촘히 모니터링하거나 아예 저가 모델로 갈아타는 기업이 늘고 있음
  • 초반엔 “일단 제일 좋은 모델 붙여보자”였다면, 이제는 “이 작업에 그 비싼 모델이 꼭 필요함?”으로 분위기가 바뀐 셈

• 모델 라우터 업체 팩토리(Factory)는 많은 작업에 앤트로픽의 고급 모델 오퍼스(Opus)까지 필요 없다고 봄

  • 팩토리 CEO 마탄 그린버그는 기업들이 향후 가격 인상 가능성 때문에 단일 벤더에 묶이는 걸 꽤 무서워한다고 말함
  • 실제로 팩토리에 따르면 최근 한 달간 오픈소스 모델 사용량은 오픈AI·앤트로픽 같은 폐쇄형 모델 대비 3배 늘었음

• 기업들은 특정 용도에 맞춘 오픈소스 모델이나 에이전트로 작업을 쪼개는 쪽으로 움직이는 중

  • 모델 학습 기업 마이크로원(Micro1) CEO 알리 안사리는 특정 업무에 맞는 오픈소스 모델·에이전트 전환이 늘고 있다고 전함
  • 범용 최고급 모델 하나로 다 때우는 구조보다, 업무별로 싼 모델과 강한 모델을 섞는 방식이 현실적인 선택지가 되고 있음

• 한국 기업 입장에서도 꽤 바로 와닿는 이슈임

  • 사내 챗봇, 문서 검색, 고객 응대, 코드 보조 같은 기능을 전부 고가 API로 돌리면 사용량이 늘수록 비용이 폭발하기 쉬움
  • 결국 앞으로는 모델 성능만 보는 게 아니라 라우팅, 캐싱, 오픈소스 모델 운영, 벤더 전환 가능성까지 같이 설계해야 함

---

기술 맥락

• 여기서 중요한 선택은 최고급 폐쇄형 모델 하나에 몰빵하지 않고, 작업별로 모델을 나눠 쓰는 거예요. 간단한 분류나 요약, 내부 문서 질의 같은 작업은 꼭 가장 비싼 모델이 필요하지 않거든요.

• 모델 라우터가 주목받는 이유도 이 비용 구조 때문이에요. 요청을 받아서 난이도나 중요도에 따라 오픈소스 모델, 저가 모델, 고급 모델로 보내면 품질을 크게 망치지 않으면서 비용을 줄일 수 있어요.

• 오픈소스 모델 전환은 단순히 API 비용 절감만의 문제가 아니에요. 특정 벤더 가격 정책이 바뀌거나 사용 제한이 걸렸을 때, 대체 경로를 갖고 있느냐가 서비스 운영 안정성에 꽤 큰 차이를 만들어요.