본문으로 건너뛰기
피드

기업들이 비싼 AI 모델 대신 저렴한 오픈소스 모델로 갈아타는 중

ai-ml 약 4분
vote
0
댓글
북마크

기업들이 AI 사용 비용을 더 이상 무시하기 어려워지면서, 모든 작업에 최고가 모델을 쓰는 방식에서 벗어나고 있어. 오픈소스 모델이나 용도별 에이전트로 옮기고, 단일 벤더에 묶이는 리스크도 같이 줄이려는 흐름이 커지는 중이야.

  • 1

    AI 비용 부담 때문에 기업들이 저가 모델과 오픈소스 모델 사용을 늘리고 있음

  • 2

    팩토리는 최근 한 달간 오픈소스 모델 사용량이 폐쇄형 모델 대비 3배 늘었다고 밝힘

  • 3

    기업들은 최고급 모델을 모든 작업에 쓰기보다 작업별로 적정 모델을 고르는 쪽으로 이동 중

  • 기업들이 이제 AI 비용 청구서를 진짜로 보기 시작함

    • 악시오스 보도에 따르면, 사용량을 더 촘촘히 모니터링하거나 아예 저가 모델로 갈아타는 기업이 늘고 있음
    • 초반엔 “일단 제일 좋은 모델 붙여보자”였다면, 이제는 “이 작업에 그 비싼 모델이 꼭 필요함?”으로 분위기가 바뀐 셈
  • 모델 라우터 업체 팩토리(Factory)는 많은 작업에 앤트로픽의 고급 모델 오퍼스(Opus)까지 필요 없다고 봄

    • 팩토리 CEO 마탄 그린버그는 기업들이 향후 가격 인상 가능성 때문에 단일 벤더에 묶이는 걸 꽤 무서워한다고 말함
    • 실제로 팩토리에 따르면 최근 한 달간 오픈소스 모델 사용량은 오픈AI·앤트로픽 같은 폐쇄형 모델 대비 3배 늘었음

중요

> 핵심은 “오픈소스가 멋져서”가 아니라 “비용과 종속 리스크를 줄이려고”라는 점임. AI 도입이 실험 단계를 지나 운영 비용 싸움으로 들어가고 있음.

  • 기업들은 특정 용도에 맞춘 오픈소스 모델이나 에이전트로 작업을 쪼개는 쪽으로 움직이는 중

    • 모델 학습 기업 마이크로원(Micro1) CEO 알리 안사리는 특정 업무에 맞는 오픈소스 모델·에이전트 전환이 늘고 있다고 전함
    • 범용 최고급 모델 하나로 다 때우는 구조보다, 업무별로 싼 모델과 강한 모델을 섞는 방식이 현실적인 선택지가 되고 있음
  • 한국 기업 입장에서도 꽤 바로 와닿는 이슈임

    • 사내 챗봇, 문서 검색, 고객 응대, 코드 보조 같은 기능을 전부 고가 API로 돌리면 사용량이 늘수록 비용이 폭발하기 쉬움
    • 결국 앞으로는 모델 성능만 보는 게 아니라 라우팅, 캐싱, 오픈소스 모델 운영, 벤더 전환 가능성까지 같이 설계해야 함

기술 맥락

  • 여기서 중요한 선택은 최고급 폐쇄형 모델 하나에 몰빵하지 않고, 작업별로 모델을 나눠 쓰는 거예요. 간단한 분류나 요약, 내부 문서 질의 같은 작업은 꼭 가장 비싼 모델이 필요하지 않거든요.

  • 모델 라우터가 주목받는 이유도 이 비용 구조 때문이에요. 요청을 받아서 난이도나 중요도에 따라 오픈소스 모델, 저가 모델, 고급 모델로 보내면 품질을 크게 망치지 않으면서 비용을 줄일 수 있어요.

  • 오픈소스 모델 전환은 단순히 API 비용 절감만의 문제가 아니에요. 특정 벤더 가격 정책이 바뀌거나 사용 제한이 걸렸을 때, 대체 경로를 갖고 있느냐가 서비스 운영 안정성에 꽤 큰 차이를 만들어요.

이제 기업 AI 도입의 관심사는 ‘제일 똑똑한 모델’에서 ‘이 작업에 이 가격이 맞냐’로 옮겨가는 분위기야. 한국 기업들도 곧 모델 성능표보다 비용 라우팅, 벤더 락인 회피, 오픈소스 운영 역량을 더 빡세게 보게 될 가능성이 큼.

댓글

댓글

댓글을 불러오는 중...

ai-ml

대학생들은 이미 챗지피티와 제미나이를 쪼개 쓰는 ‘AI 네이티브’가 됐다

이화여대 학생 설문과 인터뷰를 보면 생성형 AI는 과제 보조 도구를 넘어 학습, 글쓰기, 자료조사, 감정 상담까지 들어온 일상 인프라가 됐다. 학생들은 챗지피티, 제미나이, 클로드, 퍼플렉시티를 용도별로 나눠 쓰면서도 환각과 오류 때문에 교차검증이 필요하다고 보고 있다. 대학의 윤리 지침은 존재하지만 학생 체감은 낮고, 이제는 금지보다 활용 교육과 평가 방식 재설계가 핵심 이슈로 떠올랐다.

ai-ml

AI 에이전트 시대, 진짜 해자는 코딩 실력이 아니라 도메인 지식이다

이 글은 에이전트형 AI가 소프트웨어 개발의 병목을 “만들 수 있나”에서 “맞는지 판단할 수 있나”로 옮겼다고 주장한다. 일반ist 엔지니어의 코드 생산 능력보다, 특정 도메인의 정답을 알아보고 검증할 수 있는 사람이 더 큰 가치를 갖게 된다는 얘기다.

ai-ml

OpenRouter, 시리즈 B에서 1억1300만 달러 조달…멀티 모델 AI 인프라 판 커진다

OpenRouter가 알파벳 성장펀드 CapitalG 주도로 1억1300만 달러 규모 시리즈 B 투자를 받았다. 최근 6개월간 주간 처리량이 5조 토큰에서 25조 토큰으로 5배 늘었고, 올해 1천조 토큰 이상을 처리하는 속도로 성장 중이라고 밝혔다.

ai-ml

테슬라 FSD, 중국서 첫 집단 사기 소송 심리 시작

중국 베이징 법원이 테슬라의 풀 셀프 드라이빙 판매 약속을 둘러싼 소비자 사기 소송 첫 심리를 열었다. 원고 10명은 2019~2021년에 약 5만6천 위안을 내고 FSD를 샀지만, 실제 중국 출시 기능은 구형 하드웨어 차량을 배제했고 완전 자율주행도 제공하지 못했다고 주장한다. 중국 소비자보호법상 사기로 인정되면 환불뿐 아니라 3배 배상까지 이어질 수 있어 파장이 크다.

ai-ml

안도르 제작자, 1,500쪽 대본 공개 접은 이유는 “AI 학습 데이터 되기 싫어서”

스타워즈 드라마 안도르의 쇼러너 토니 길로이가 준비해둔 1,500쪽짜리 대본·콘셉트 아트 공개 계획을 접었다. 이유는 단순하다. 공개하는 순간 AI 모델 학습 데이터로 빨려 들어갈 수 있다는 우려 때문이다. 헐리우드 창작자와 스튜디오, AI 기업 사이의 저작권·학습 데이터 갈등이 다시 선명하게 드러난 사례다.