그로크, 1조 원 투자 유치로 AI 추론 클라우드 확장 속도 낸다

• AI 추론 전용 클라우드 기업 그로크(Groq)가 6억 5,000만 달러, 약 1조 원 규모의 신규 성장 투자를 유치함.

  • 발표일은 6월 22일이고, 디스럽티브와 인피니텀이 투자를 주도함.
  • 회사는 이 자금을 추론 클라우드 사업 확장에 쓸 계획임.

• 이번 투자 배경에는 엔비디아와의 묘한 거래가 있음.

  • 그로크는 지난해 12월 엔비디아와 비독점 라이선스 계약을 맺었음.
  • 업계에서는 이 거래를 ‘인수 아닌 인수’처럼 봤음. 약 200억 달러 규모로 그로크의 기술과 인력을 사실상 끌어안았지만, 회사는 독립적으로 남겨둔 형태였기 때문임.
  • 이 거래로 기존 투자자들이 큰 차익을 거뒀고, 그 자금 일부가 이번 라운드로 다시 들어온 것으로 설명됨.

• 그로크는 원래 자체 추론 칩(LPU)을 설계하던 회사였는데, 이제는 추론 전용 클라우드 사업자로 무게중심을 옮기는 중임.

  • 현재 북미, 유럽, 중동, 아시아태평양에 13개 데이터센터를 운영함.
  • 500만 명이 넘는 개발자와 수천 개 AI 기업이 서비스를 쓰고 있음.
  • 매주 처리하는 토큰은 수조 개 규모임.

• 마지막으로 알려진 기업가치는 지난해 9월 7억 5,000만 달러를 조달할 당시 69억 달러였음.

  • 엔비디아와의 라이선스 거래 직후 일부 인력이 빠져나갔지만, 이번 투자로 채용을 다시 늘리며 조직을 재정비하는 중임.
  • 투자자 입장에서는 ‘모델 학습 다음 전쟁터가 추론’이라는 베팅에 돈을 더 넣은 셈임.

• 그로크가 내세우는 무기는 속도임.

  • 자체 LPU는 대규모 언어 모델(LLM)의 답변을 GPU보다 빠르게 내놓도록 설계됨.
  • 챗봇이나 에이전트처럼 사용자가 바로 반응을 기대하는 서비스에서는 추론 지연시간이 곧 제품 경험임.
  • 그래서 그로크는 빠르고 싼 추론을 앞세워 엔비디아 GPU 중심 시장에 도전하고 있음.

• AI 경쟁의 무게중심이 학습에서 추론으로 옮겨가는 분위기도 뚜렷함.

  • 모델을 새로 학습시키는 경쟁이 어느 정도 정리되자, 이제는 만들어진 모델을 얼마나 빠르고 싸게 돌리느냐가 중요해짐.
  • 같은 주에 추론 인프라 기업 베이스튼도 15억 달러를 유치함.
  • 자본이 추론 계층으로 몰리는 흐름이 꽤 선명해졌음.

---

기술 맥락

• 여기서 중요한 변화는 AI 인프라의 관심사가 학습에서 추론으로 이동한다는 점이에요. 모델을 만드는 것도 중요하지만, 실제 서비스에서는 매 요청마다 모델을 빠르고 싸게 돌리는 비용이 계속 쌓이거든요.

• 그로크가 LPU를 밀고 나오는 이유도 명확해요. GPU는 범용성과 생태계가 강하지만, 그로크는 대규모 언어 모델 응답 생성이라는 좁은 문제에 맞춰 속도를 끌어올리려는 선택을 한 거예요.

• 13개 데이터센터와 매주 수조 개 토큰 처리라는 숫자는 단순 칩 회사에서 클라우드 운영 회사로 바뀌고 있다는 신호예요. 칩 성능만 좋아서는 부족하고, 개발자가 바로 붙여 쓸 수 있는 추론 서비스가 필요하거든요.

• 엔비디아와의 비독점 라이선스 거래가 흥미로운 이유도 여기에 있어요. 엔비디아는 기술과 인력 가치를 확보하면서도 회사를 완전히 흡수하지 않았고, 그로크는 독립적으로 추론 클라우드 시장을 계속 파고들 수 있게 됐어요.