본문으로 건너뛰기
피드

OpenRouter, 시리즈 B에서 1억1300만 달러 조달…멀티 모델 AI 인프라 판 커진다

ai-ml 약 5분
vote
0
댓글
북마크

OpenRouter가 알파벳 성장펀드 CapitalG 주도로 1억1300만 달러 규모 시리즈 B 투자를 받았다. 최근 6개월간 주간 처리량이 5조 토큰에서 25조 토큰으로 5배 늘었고, 올해 1천조 토큰 이상을 처리하는 속도로 성장 중이라고 밝혔다.

  • 1

    OpenRouter는 400개 이상 모델을 800만 명 이상 개발자에게 연결하는 AI 모델 라우팅 계층을 지향함

  • 2

    주간 토큰 처리량이 6개월 만에 5조에서 25조로 증가했고 올해 1천조 토큰 처리 페이스를 언급함

  • 3

    투자자에 NVIDIA, ServiceNow, MongoDB, Snowflake, Databricks 계열 벤처가 참여해 엔터프라이즈 인프라 성격이 강해짐

  • 4

    멀티모달 추론, 비용·지연시간 최적화, 제공자 장애 대응, 데이터 미보관 정책 같은 운영 기능을 강화 중

  • OpenRouter가 시리즈 B에서 1억1300만 달러를 조달함. 투자 라인업이 꽤 세다

    • 리드는 알파벳의 독립 성장펀드 CapitalG가 맡았고, NVIDIA의 벤처 조직 NVentures도 참여함
    • ServiceNow, MongoDB, Snowflake, Databricks 쪽 벤처도 들어왔는데, 그냥 재무 투자라기보다 “기업용 AI 인프라 스택에 이 계층이 필요하다”는 쪽에 가까움
  • 성장 숫자가 제일 눈에 띔. OpenRouter의 주간 처리량은 최근 6개월 동안 5조 토큰에서 25조 토큰으로 늘었다고 함

    • 단순 계산으로 5배 성장이고, 올해 1천조 토큰 이상을 처리하는 페이스라고 밝힘
    • 현재 400개 이상 모델을 제공하고, 800만 명 이상 개발자가 OpenRouter 위에서 앱을 만들고 있다는 주장도 나옴

중요

> 이 발표의 핵심은 “AI 모델 호출 API 하나 더 생김”이 아니라, 멀티 모델 운영을 담당하는 게이트웨이 계층이 독립 시장으로 커지고 있다는 점임.

  • OpenRouter가 노리는 자리는 에이전트와 모델 제공자 사이의 라우팅 계층임

    • 앱은 OpenAI, Anthropic, Google, 오픈소스 모델 등 여러 제공자를 직접 붙잡고 씨름하지 않아도 됨
    • OpenRouter가 라우팅, 안정성, 비용 최적화, 컴플라이언스 같은 운영 문제를 중간에서 처리하겠다는 그림임
  • 왜 지금 이게 중요하냐면, 기업 AI가 “모델 하나로 파일럿”에서 “여러 모델을 섞는 운영 시스템”으로 넘어가고 있기 때문임

    • 단일 모델만 쓰면 장애, 가격 변동, 성능 편차에 그대로 노출됨
    • 반대로 여러 모델을 쓰면 라우팅 정책, 장애 대응, 비용 관리, 데이터 보관 정책 같은 복잡도가 폭발함
    • OpenRouter는 이 복잡도를 제품화하겠다는 쪽임
  • 지난 1년 동안 추가한 기능도 딱 운영형 AI 앱을 겨냥하고 있음

    • 텍스트뿐 아니라 이미지, 오디오, 음성, 전사, 임베딩, 비디오 모델까지 멀티모달 추론을 지원한다고 함
    • 워크스페이스, 지출 관리, 가드레일, 데이터 미보관 정책도 엔터프라이즈 컨트롤로 묶고 있음
    • 제공자 단위 장애 전환, 비용·지연시간 최적화, 품질 인식 라우팅도 강조함
  • 개발자 입장에서 보면 “모델 선택”이 점점 런타임 의사결정이 되는 흐름임

    • 예전엔 코드에서 모델 이름 하나 고정해두는 식이었다면, 이제는 요청마다 더 싸거나 빠르거나 안정적인 모델을 고르는 식으로 바뀌는 중
    • 특히 에이전트처럼 호출 횟수가 많고 실패 비용이 큰 시스템에서는 이 차이가 바로 운영비와 장애율로 이어짐

기술 맥락

  • OpenRouter가 고른 기술적 위치는 모델 제공자가 아니라 모델 라우팅 계층이에요. 왜냐하면 기업이 실제 AI 앱을 운영할 때는 “어느 모델이 제일 똑똑하냐”만큼 “장애 나면 어디로 넘기냐”, “이번 요청은 얼마짜리 모델로 처리하냐”가 중요해지거든요.

  • 이 구조에서는 앱이 직접 여러 모델 API를 모두 다루지 않고, 중간 게이트웨이에 요청을 보내요. 게이트웨이는 제공자 상태, 지연시간, 비용, 품질 기준을 보고 적절한 모델로 넘기는데, 그래서 단순 프록시보다 운영 정책 엔진에 가까워요.

  • 투자자 구성이 흥미로운 이유도 여기에 있어요. MongoDB, Snowflake, Databricks, ServiceNow 같은 회사들은 기업 데이터와 운영 플랫폼 쪽에 이미 발이 깊기 때문에, 멀티 모델 AI가 엔터프라이즈 스택 안으로 들어올 때 필요한 제어 계층을 중요하게 보는 거예요.

  • 한국 팀도 LLM 기능을 제품에 넣는 단계라면 이 흐름을 볼 필요가 있어요. 모델 하나 붙이는 건 빨리 끝나지만, 비용 상한, 장애 대응, 데이터 보관 정책, 모델 교체 가능성까지 생각하면 게이트웨이 계층을 직접 만들지 살지 판단해야 하거든요.

LLM 앱이 단일 모델 호출 데모에서 실제 운영 시스템으로 넘어가면서, 이제 문제는 모델 자체보다 라우팅·비용·장애 대응·규정 준수로 옮겨가는 중임. OpenRouter 투자는 이 계층이 독립된 인프라 시장으로 인정받기 시작했다는 신호에 가깝다.

댓글

댓글

댓글을 불러오는 중...

ai-ml

애플 새 음성 인식 API, 온디바이스 영어 전사에서 위스퍼 스몰까지 이겼다

애플의 새 음성 인식 API인 스피치애널라이저가 리브리스피치 벤치마크에서 기존 SFSpeechRecognizer는 물론 위스퍼 스몰보다도 낮은 단어 오류율을 기록했어. 깨끗한 음성에서는 2.12%, noisy 음성에서는 4.56%로, 기존 애플 API 대비 오류율을 3.5~4배 줄였고 위스퍼 스몰보다 약 3배 빠르게 돌았어. 다만 영어·애플 플랫폼·OS 26 조건의 결과라, 다국어와 크로스플랫폼에서는 여전히 위스퍼의 장점이 남아 있어.

ai-ml

AI를 진짜 잘 쓰는 기업, 미국 증시에서 연 30% 프리미엄 받는다는 연구

예일대와 로체스터대 연구진이 기업의 실제 대형 언어 모델 사용 데이터를 분석했더니, AI 활용도가 높은 상위 20% 기업이 하위 20%보다 주당 평균 0.64% 높은 초과수익률을 냈다. 단순히 AI 기업이냐가 아니라, 업무에 AI를 얼마나 깊게 쓰는지가 시장 가치에 반영되고 있다는 얘기다.

ai-ml

ZTE, AI 에이전트폰으로 스마트폰 재도전…진짜 승부처는 앱 생태계

ZTE가 바이트댄스의 더우바오를 탑재한 AI 에이전트 스마트폰으로 시장 재진입을 노린다. 핵심은 사용자가 명령하면 AI가 여러 앱을 직접 열고 조작하는 방식인데, 위챗·타오바오·알리페이 같은 플랫폼과 충돌하면서 생태계 문제가 가장 큰 변수로 떠올랐다.

ai-ml

노벨상 학자들까지 “AI 경제 충격, 지금 제도 안 만들면 늦다”

노벨 경제학상 수상자 15명을 포함한 학자와 기술 업계 인사 약 200명이 AI가 향후 10년 안에 경제를 급격히 바꿀 수 있다며 정책 대응을 촉구했다. 이들은 산업혁명보다 큰 변화가 훨씬 짧은 시간에 올 수 있고, 대규모 일자리 대체와 생활 수준 향상이라는 양면성이 동시에 존재한다고 봤다.

ai-ml

NHN, AI 데이터센터 매출 기대감에 목표주가 5만6000원으로 상향

한국투자증권이 NHN의 목표주가를 4만5000원에서 5만6000원으로 올리고 투자의견 매수를 유지했다. 핵심 근거는 양평 AI 데이터센터 가동, 공공·민간 GPU 클러스터 수주 확대, 클라우드 사업부 신규 매출 반영이다.