AI 인프라 전장에 뜬 ‘네오클라우드’, GPU가 새 자산이 되고 있다

GPU가 모델만큼 중요한 시대

• AI 인프라 시장에서 ‘네오클라우드’가 새 축으로 떠오르는 중임

  • 네오클라우드는 AI 학습과 추론에 필요한 GPU를 서비스형으로 제공하는 AI 특화 클라우드 사업자를 뜻함
  • 일반 웹서비스와 기업 업무까지 폭넓게 처리하는 퍼블릭 클라우드와 달리, GPU 연산과 AI 워크로드에 맞춰 구조를 잡는 게 특징임

• 배경은 단순함. GPU 수요가 너무 빨리 늘었고, 공급은 못 따라가고 있음

  • 빅테크의 AI 데이터센터 투자와 소버린 AI 프로젝트가 동시에 커지면서 GPU 확보 경쟁이 심해짐
  • 문제는 GPU를 확보해도 효율적으로 못 쓰는 경우가 많다는 점임

코어위브와 네비우스가 치고 나가는 이유

• 글로벌 대표 주자는 코어위브, 람다랩스, 네비우스임

  • 코어위브는 오픈AI, 앤트로픽, 구글, 메타, 퍼플렉시티 같은 주요 AI 기업에 GPU 인프라를 제공하고 있음
  • 최근에는 위츠앤바이어스(W&B)를 인수하고 에이전트 AI 기능까지 내놓으면서 GPU 임대업을 넘어서는 중임

• 네비우스도 AI 특화 클라우드로 빠르게 체급을 키우는 중임

  • 러시아 검색엔진 얀덱스에서 분사한 뒤 AI 클라우드 회사로 전환함
  • 마이크로소프트, 메타, 엔비디아 등과 대형 계약을 맺었고, 올해 주가가 130% 이상 급등했다는 점도 투자자들이 이 시장을 어떻게 보는지 보여줌

• 금융권도 GPU를 새 인프라 자산처럼 보기 시작함

  • 블랙스톤과 칼라일 같은 미국 투자기관들이 코어위브, 람다, 크루소가 보유한 GPU를 담보로 대규모 자금을 공급 중임
  • 서버 장비가 그냥 비용 항목이 아니라, 돈을 빌릴 수 있는 자산으로 평가받는 분위기임. 이거 꽤 상징적임

국내도 그냥 구경만 하는 상황은 아님

• 통신사들도 AI 인프라 사업자로 영역을 넓히는 중임

  • 일본 소프트뱅크는 엔비디아 GB200 NVL72 기반 네오클라우드 서비스를 올해 정식 출시할 예정임
  • 자체 AI 클라우드 운영체제 ‘인프리니아’를 결합해 학습부터 추론까지 통합 지원하는 구조를 내세움

• 국내에선 베슬AI, 몬드리안에이아이, 엘리스그룹이 대표 사례로 언급됨

  • 베슬AI는 연내 최신 GPU 1만 장 규모 인프라 구축을 추진 중임
  • 몬드리안에이아이는 AI 플랫폼과 인프라를 결합해 교육·연구 시장을 공략하고 있음
  • 엘리스그룹은 모듈형 데이터센터와 GPU 스팟 요금제로 시장 진입 속도를 내는 중임

• 네오클라우드는 기존 하이퍼스케일러를 완전히 대체한다기보다 AI 전용 인프라 레이어로 자리 잡을 가능성이 큼

  • ABI리서치는 네오클라우드 GPUaaS 시장이 2030년 수백조원 규모로 성장할 것으로 전망함
  • 코어위브 쪽에서도 “AI 클라우드는 더 이상 GPU 임대 사업이 아니다”라고 못 박음

---

기술 맥락

• 네오클라우드의 기술적 선택은 범용 클라우드의 모든 기능을 다 제공하기보다, AI 학습과 추론에 필요한 GPU·네트워크·스토리지·운영 도구에 집중하는 거예요. 불필요한 범용 기능을 줄이면 같은 H100을 써도 비용 구조가 달라질 수 있거든요.

• 왜 이게 먹히냐면 AI 워크로드는 일반 웹서비스와 병목이 달라요. 웹서비스는 요청 처리와 확장성이 중요하지만, 대규모 학습은 GPU 간 통신, 데이터 공급 속도, 냉각, 장애 복구가 훨씬 중요해요. 그래서 AI 전용으로 설계한 인프라가 가격과 성능에서 이점을 만들 수 있어요.

• 코어위브가 W&B를 인수한 흐름도 그냥 사업 확장이 아니에요. GPU만 빌려주면 고객이 학습 추적, 실험 관리, 배포 파이프라인을 따로 조립해야 하거든요. 플랫폼까지 묶으면 고객은 빨리 시작할 수 있고, 공급자는 더 깊은 락인을 만들 수 있어요.

• 국내 기업에도 이 흐름은 중요해요. 자체 모델을 학습하지 않더라도 추론 비용, 지연 시간, 데이터 위치, 장애 대응은 서비스 품질과 바로 연결돼요. 그래서 앞으로는 어떤 모델을 쓰느냐만큼 어떤 GPU 인프라를 어떤 조건으로 쓰느냐가 의사결정의 핵심이 될 가능성이 커요.