네오클라우드 시장 연평균 50% 성장 — GPU 전용 클라우드가 하이퍼스케일러를 위협하는 이유

네오클라우드, 연평균 50% 이상 성장 중

• 네오클라우드(NeoCloud)란 퍼블릭 클라우드와 달리 AI를 위한 GPU만 서비스하는 사업자를 뜻함
  • 2025년 시장 규모 250억달러(약 37조원), 4분기만 90억달러 — 전년 동기 대비 223% 성장
  • 2031년까지 CAGR 58%로 4000억달러(약 590조원) 규모 전망 (시너지 리서치 그룹)
  • 모도 인텔리전스도 비슷한 전망: 2031년 2365억달러, CAGR 46%
• 주요 플레이어: 코어위브(CoreWeave)가 독보적, 크루소, 코어 사이언티픽, 람다, 네비우스, 엔스케일 등

하이퍼스케일러 vs 네오클라우드 — 뭐가 다른가

• 아키텍처 차이: 하이퍼스케일러는 CPU 중심 가상화 환경에 GPU를 얹은 구조
  • 네오클라우드는 하드웨어 설계 단계부터 GPU 중심으로 구축 (발열 관리 포함)
  • 가상화 오버헤드 없는 베어메탈(Bare-metal) 방식 → AI 학습 속도 극대화
• 네트워킹 차이: 하이퍼스케일러는 이더넷 위주
  • 네오클라우드는 인피니밴드(InfiniBand) + RDMA 기본 적용
  • 대규모 GPU 클러스터 간 통신 병목 해결
• 가격 차이가 결정적임
  • H100 SXM5 기준: 하이퍼스케일러 시간당 $612 vs 네오클라우드 $23 — 30~60% 저렴
  • 데이터 전송(Egress), 스토리지 추가 비용도 대부분 포함이거나 훨씬 저렴
  • 최신 고성능 GPU 물량도 더 빠르게 할당 가능

엔비디아의 적극적 투자 — 그리고 '순환 금융' 논란

• 엔비디아가 주요 네오클라우드 업체에 공격적으로 투자 중
  • 코어위브: 올 1월 20억달러 직접 투자
  • 네비우스: 2024년 12월 7억달러 라운드 참여 + 2026년 3월 20억달러 추가
  • 람다: 시리즈 D 4.8억달러 라운드 참여
  • 엔스케일: 시리즈 C 브릿지 4.33억달러 참여
• 비판: 자사 GPU를 대량 구매하는 고객에게 투자하는 '순환 금융' 구조
  • 투자금 → GPU 구매 → 엔비디아 매출이라는 순환 구조

크립토 채굴 기업들의 대전환

• 암호화폐 채굴 기업들이 네오클라우드 시장에 대거 진입 중
  • 이미 대용량 GPU, 냉각 시스템, 대형 데이터센터, 24시간 운영 노하우 보유
  • 채굴 수익성 하락 + 보유 장비 서비스화 가능
• 대표 사례: 코어위브
  • 원래 이더리움 채굴 기업 '크립토 윈터'였음
  • 2018년 암호화폐 폭락 → 2019년 사명 변경 → 2022년 네오클라우드로 완전 전환
• 기타 전향 기업: 아이렌(IREN), 허트 8, 노던 데이터, 하이브 디지털 등
  • 비트 디지털은 양다리: 비트코인 채굴 수익 53% 급감 vs 클라우드 매출 50% 증가
  • 채굴 시절 확보한 전력 공급망 + 냉각 시스템이 AI 데이터센터 구축 속도를 크게 앞당김

---

기술 맥락

• 네오클라우드가 왜 저렴하면서 성능이 좋은지 이해하려면 '가상화 오버헤드'를 알아야 해요. AWS나 GCP 같은 하이퍼스케일러는 하나의 물리 서버를 여러 고객이 나눠 쓸 수 있도록 가상화 레이어를 두는데, 이게 GPU 연산에서는 5~15% 정도 성능 손실을 만들거든요
• 인피니밴드(InfiniBand)는 GPU 간 데이터 전송에 특화된 고속 네트워크예요. 이더넷이 범용이라면 인피니밴드는 HPC/AI 전용이라고 보면 되고, 대규모 병렬 학습에서 GPU 간 그래디언트를 동기화할 때 병목을 크게 줄여줘요
• RDMA는 CPU를 거치지 않고 메모리끼리 직접 통신하는 기술이에요. 일반적인 네트워크 통신은 CPU가 중간에서 데이터를 복사해야 하는데, RDMA는 이 과정을 생략해서 지연 시간을 마이크로초 단위로 줄여주거든요
• 엔비디아의 순환 금융 구조는 좀 논란이 있어요. 네오클라우드에 투자한 돈이 결국 GPU 구매대금으로 돌아오는 구조라서, 실질적으로는 할부 판매에 가까운 거 아니냐는 시각도 있거든요