본문으로 건너뛰기
피드

OpenRouter, 시리즈 B에서 1억1300만 달러 조달…멀티 모델 AI 인프라 판 커진다

ai-ml 약 5분
vote
0
댓글
북마크

OpenRouter가 알파벳 성장펀드 CapitalG 주도로 1억1300만 달러 규모 시리즈 B 투자를 받았다. 최근 6개월간 주간 처리량이 5조 토큰에서 25조 토큰으로 5배 늘었고, 올해 1천조 토큰 이상을 처리하는 속도로 성장 중이라고 밝혔다.

  • 1

    OpenRouter는 400개 이상 모델을 800만 명 이상 개발자에게 연결하는 AI 모델 라우팅 계층을 지향함

  • 2

    주간 토큰 처리량이 6개월 만에 5조에서 25조로 증가했고 올해 1천조 토큰 처리 페이스를 언급함

  • 3

    투자자에 NVIDIA, ServiceNow, MongoDB, Snowflake, Databricks 계열 벤처가 참여해 엔터프라이즈 인프라 성격이 강해짐

  • 4

    멀티모달 추론, 비용·지연시간 최적화, 제공자 장애 대응, 데이터 미보관 정책 같은 운영 기능을 강화 중

  • OpenRouter가 시리즈 B에서 1억1300만 달러를 조달함. 투자 라인업이 꽤 세다

    • 리드는 알파벳의 독립 성장펀드 CapitalG가 맡았고, NVIDIA의 벤처 조직 NVentures도 참여함
    • ServiceNow, MongoDB, Snowflake, Databricks 쪽 벤처도 들어왔는데, 그냥 재무 투자라기보다 “기업용 AI 인프라 스택에 이 계층이 필요하다”는 쪽에 가까움
  • 성장 숫자가 제일 눈에 띔. OpenRouter의 주간 처리량은 최근 6개월 동안 5조 토큰에서 25조 토큰으로 늘었다고 함

    • 단순 계산으로 5배 성장이고, 올해 1천조 토큰 이상을 처리하는 페이스라고 밝힘
    • 현재 400개 이상 모델을 제공하고, 800만 명 이상 개발자가 OpenRouter 위에서 앱을 만들고 있다는 주장도 나옴

중요

> 이 발표의 핵심은 “AI 모델 호출 API 하나 더 생김”이 아니라, 멀티 모델 운영을 담당하는 게이트웨이 계층이 독립 시장으로 커지고 있다는 점임.

  • OpenRouter가 노리는 자리는 에이전트와 모델 제공자 사이의 라우팅 계층임

    • 앱은 OpenAI, Anthropic, Google, 오픈소스 모델 등 여러 제공자를 직접 붙잡고 씨름하지 않아도 됨
    • OpenRouter가 라우팅, 안정성, 비용 최적화, 컴플라이언스 같은 운영 문제를 중간에서 처리하겠다는 그림임
  • 왜 지금 이게 중요하냐면, 기업 AI가 “모델 하나로 파일럿”에서 “여러 모델을 섞는 운영 시스템”으로 넘어가고 있기 때문임

    • 단일 모델만 쓰면 장애, 가격 변동, 성능 편차에 그대로 노출됨
    • 반대로 여러 모델을 쓰면 라우팅 정책, 장애 대응, 비용 관리, 데이터 보관 정책 같은 복잡도가 폭발함
    • OpenRouter는 이 복잡도를 제품화하겠다는 쪽임
  • 지난 1년 동안 추가한 기능도 딱 운영형 AI 앱을 겨냥하고 있음

    • 텍스트뿐 아니라 이미지, 오디오, 음성, 전사, 임베딩, 비디오 모델까지 멀티모달 추론을 지원한다고 함
    • 워크스페이스, 지출 관리, 가드레일, 데이터 미보관 정책도 엔터프라이즈 컨트롤로 묶고 있음
    • 제공자 단위 장애 전환, 비용·지연시간 최적화, 품질 인식 라우팅도 강조함
  • 개발자 입장에서 보면 “모델 선택”이 점점 런타임 의사결정이 되는 흐름임

    • 예전엔 코드에서 모델 이름 하나 고정해두는 식이었다면, 이제는 요청마다 더 싸거나 빠르거나 안정적인 모델을 고르는 식으로 바뀌는 중
    • 특히 에이전트처럼 호출 횟수가 많고 실패 비용이 큰 시스템에서는 이 차이가 바로 운영비와 장애율로 이어짐

기술 맥락

  • OpenRouter가 고른 기술적 위치는 모델 제공자가 아니라 모델 라우팅 계층이에요. 왜냐하면 기업이 실제 AI 앱을 운영할 때는 “어느 모델이 제일 똑똑하냐”만큼 “장애 나면 어디로 넘기냐”, “이번 요청은 얼마짜리 모델로 처리하냐”가 중요해지거든요.

  • 이 구조에서는 앱이 직접 여러 모델 API를 모두 다루지 않고, 중간 게이트웨이에 요청을 보내요. 게이트웨이는 제공자 상태, 지연시간, 비용, 품질 기준을 보고 적절한 모델로 넘기는데, 그래서 단순 프록시보다 운영 정책 엔진에 가까워요.

  • 투자자 구성이 흥미로운 이유도 여기에 있어요. MongoDB, Snowflake, Databricks, ServiceNow 같은 회사들은 기업 데이터와 운영 플랫폼 쪽에 이미 발이 깊기 때문에, 멀티 모델 AI가 엔터프라이즈 스택 안으로 들어올 때 필요한 제어 계층을 중요하게 보는 거예요.

  • 한국 팀도 LLM 기능을 제품에 넣는 단계라면 이 흐름을 볼 필요가 있어요. 모델 하나 붙이는 건 빨리 끝나지만, 비용 상한, 장애 대응, 데이터 보관 정책, 모델 교체 가능성까지 생각하면 게이트웨이 계층을 직접 만들지 살지 판단해야 하거든요.

LLM 앱이 단일 모델 호출 데모에서 실제 운영 시스템으로 넘어가면서, 이제 문제는 모델 자체보다 라우팅·비용·장애 대응·규정 준수로 옮겨가는 중임. OpenRouter 투자는 이 계층이 독립된 인프라 시장으로 인정받기 시작했다는 신호에 가깝다.

댓글

댓글

댓글을 불러오는 중...

ai-ml

대학생들은 이미 챗지피티와 제미나이를 쪼개 쓰는 ‘AI 네이티브’가 됐다

이화여대 학생 설문과 인터뷰를 보면 생성형 AI는 과제 보조 도구를 넘어 학습, 글쓰기, 자료조사, 감정 상담까지 들어온 일상 인프라가 됐다. 학생들은 챗지피티, 제미나이, 클로드, 퍼플렉시티를 용도별로 나눠 쓰면서도 환각과 오류 때문에 교차검증이 필요하다고 보고 있다. 대학의 윤리 지침은 존재하지만 학생 체감은 낮고, 이제는 금지보다 활용 교육과 평가 방식 재설계가 핵심 이슈로 떠올랐다.

ai-ml

AI 에이전트 시대, 진짜 해자는 코딩 실력이 아니라 도메인 지식이다

이 글은 에이전트형 AI가 소프트웨어 개발의 병목을 “만들 수 있나”에서 “맞는지 판단할 수 있나”로 옮겼다고 주장한다. 일반ist 엔지니어의 코드 생산 능력보다, 특정 도메인의 정답을 알아보고 검증할 수 있는 사람이 더 큰 가치를 갖게 된다는 얘기다.

ai-ml

테슬라 FSD, 중국서 첫 집단 사기 소송 심리 시작

중국 베이징 법원이 테슬라의 풀 셀프 드라이빙 판매 약속을 둘러싼 소비자 사기 소송 첫 심리를 열었다. 원고 10명은 2019~2021년에 약 5만6천 위안을 내고 FSD를 샀지만, 실제 중국 출시 기능은 구형 하드웨어 차량을 배제했고 완전 자율주행도 제공하지 못했다고 주장한다. 중국 소비자보호법상 사기로 인정되면 환불뿐 아니라 3배 배상까지 이어질 수 있어 파장이 크다.

ai-ml

안도르 제작자, 1,500쪽 대본 공개 접은 이유는 “AI 학습 데이터 되기 싫어서”

스타워즈 드라마 안도르의 쇼러너 토니 길로이가 준비해둔 1,500쪽짜리 대본·콘셉트 아트 공개 계획을 접었다. 이유는 단순하다. 공개하는 순간 AI 모델 학습 데이터로 빨려 들어갈 수 있다는 우려 때문이다. 헐리우드 창작자와 스튜디오, AI 기업 사이의 저작권·학습 데이터 갈등이 다시 선명하게 드러난 사례다.

ai-ml

스타벅스, 물건도 제대로 못 세던 인공지능 재고 도구 폐기

스타벅스가 도입 9개월 만에 인공지능 기반 재고 자동 집계 도구를 중단했다. 업체는 99% 정확도를 내세웠지만, 현장에서는 품목을 자주 잘못 세거나 잘못 분류한 것으로 전해졌다.