AI 인프라 전쟁의 새 축, ‘네오클라우드’가 뜬다

AI 경쟁의 병목이 GPU 인프라로 이동 중

• AI 열풍 속에서 ‘네오클라우드’가 새 인프라 전장으로 떠오르고 있음

  • 네오클라우드는 AI 모델 학습과 추론에 필요한 GPU를 서비스형으로 제공하는 AI 특화 클라우드 사업자를 뜻함
  • 범용 퍼블릭 클라우드가 웹서비스와 기업 업무 전반을 처리한다면, 네오클라우드는 AI 연산에 맞춰 구조를 좁고 깊게 최적화하는 쪽임

• 배경은 간단함. GPU가 너무 많이 필요하고, 너무 비싸고, 확보해도 잘 굴리기 어려움

  • 빅테크의 AI 데이터센터 투자와 소버린 AI 프로젝트가 늘면서 GPU 수요가 폭발함
  • 공급은 그 속도를 따라가지 못하고 있음
  • 심지어 확보한 GPU도 효율적으로 쓰지 못하는 문제가 생기면서, AI 전용 인프라 운영 능력이 중요해짐

• 가격 경쟁력은 네오클라우드가 뜨는 가장 직관적인 이유임
  • 업타임 인스티튜트 분석에 따르면 H100 기준 네오클라우드의 시간당 비용은 약 34달러임
  • 하이퍼스케일러 평균 98달러와 비교하면 차이가 꽤 큼
  • AI 워크로드에 불필요한 요소를 줄이고 GPU 운영에 집중한 결과로 해석됨

코어위브와 네비우스가 앞에서 치고 나감

• 글로벌 시장에서는 코어위브, 람다랩스, 네비우스가 대표 주자로 언급됨

  • 특히 코어위브는 오픈AI, 앤트로픽, 구글, 메타, 퍼플렉시티 같은 주요 AI 기업에 GPU 인프라를 제공함
  • 이제는 단순 GPU 임대 회사를 넘어 풀스택 AI 클라우드 기업으로 진화하려는 움직임을 보임

• 코어위브의 확장 방향은 꽤 노골적임

  • AI 개발 플랫폼 기업 위츠앤바이어스(W&B)를 인수함
  • 에이전트 AI 기능도 출시함
  • 즉 “GPU 빌려드립니다”에서 “학습, 추론, 운영까지 여기서 하세요”로 가는 중임

• 네비우스도 빠르게 존재감을 키우고 있음

  • 러시아 최대 검색엔진 얀덱스에서 분사한 뒤 AI 클라우드 기업으로 전환함
  • 마이크로소프트, 메타, 엔비디아와 대형 계약을 맺으며 시장 영향력을 넓힘
  • 올해 들어 주가가 130% 이상 급등했다는 점도 투자자들이 이 시장을 어떻게 보는지 보여줌

• 자본 시장도 GPU를 새로운 인프라 자산처럼 보기 시작함

  • 블랙스톤과 칼라일 같은 미국 주요 투자기관들이 코어위브, 람다, 크루소 등에 자금을 공급함
  • 이때 담보로 보는 자산이 바로 이 기업들이 보유한 GPU임
  • 데이터센터, 광케이블, 전력망처럼 GPU 풀 자체가 돈 되는 인프라로 평가받기 시작한 셈임

통신사와 국내 스타트업도 뛰어드는 중

• 통신사들도 네오클라우드 경쟁에 들어오고 있음

  • 일본 소프트뱅크는 엔비디아 GB200 NVL72 기반 네오클라우드 서비스를 올해 정식 출시할 예정임
  • 자체 AI 클라우드 운영체제(OS) ‘인프리니아’를 결합해 학습부터 추론까지 통합 지원하는 구조를 내세움
  • 통신사가 회선 사업자를 넘어 AI 인프라 사업자로 확장하려는 흐름이 보임

• 국내에서는 베슬AI, 몬드리안에이아이, 엘리스그룹이 대표 주자로 언급됨

  • 베슬AI는 연내 최신 GPU 1만 장 규모 인프라 구축을 추진하고 글로벌 데이터센터 네트워크도 확대 중임
  • 몬드리안에이아이는 AI 플랫폼과 인프라를 결합해 교육·연구 시장을 공략함
  • 엘리스그룹은 모듈형 데이터센터와 GPU 스팟 요금제를 앞세워 시장 진입 속도를 내고 있음

• 업계 전망은 “하이퍼스케일러 대체”보다 “AI 특화 인프라 축 추가”에 가까움

  • 기존 클라우드가 사라진다는 얘기는 아님
  • 대신 학습, 추론, 대규모 GPU 클러스터 운영처럼 특화된 워크로드는 네오클라우드가 더 매력적인 선택지가 될 수 있음
  • ABI리서치는 네오클라우드 GPUaaS 시장이 2030년 수백조원 규모로 성장할 것으로 전망함

• 코어위브 쪽 메시지도 같은 방향임

  • 코리 샌더스 코어위브 제품 관리 담당 수석부사장은 AI 클라우드가 더 이상 GPU 임대 사업이 아니라고 말함
  • 학습, 추론, 운영을 아우르는 풀스택 플랫폼 경쟁이 시작됐고, 이것이 차세대 AI 인프라 시장의 핵심이 될 거라는 주장임

• 개발자 입장에서는 이게 꽤 현실적인 변화임

  • 앞으로 AI 제품을 만들 때 모델 성능만 보는 게 아니라 GPU 수급, 추론 단가, 배포 도구, 운영 자동화까지 같이 봐야 함
  • “어느 모델이 좋냐”만큼 “어디서 돌리면 비용과 안정성이 맞냐”가 중요한 질문이 됨

---

기술 맥락

• 네오클라우드가 주목받는 이유는 AI 워크로드가 일반 웹서비스와 꽤 다르기 때문이에요. 웹서비스는 트래픽 분산, 저장소, 네트워크, 보안 기능이 고르게 중요하지만, 대규모 모델 학습과 추론은 GPU를 얼마나 많이, 싸게, 안정적으로 묶어 쓰느냐가 핵심이거든요.

• 하이퍼스케일러가 약해서 생긴 시장이라기보다는, 너무 범용이라 생긴 틈에 가까워요. 모든 고객과 모든 워크로드를 받는 클라우드는 기능이 풍부한 대신 AI 전용 비용 구조에서는 불리할 수 있어요. 네오클라우드는 불필요한 범용 기능을 줄이고 GPU 활용률과 운영 효율에 집중해요.

• 코어위브가 위츠앤바이어스를 인수한 것도 그냥 몸집 불리기가 아니에요. GPU만 빌려주면 가격 경쟁에 빠지기 쉽지만, 학습 관리, 실험 추적, 배포, 추론 운영까지 묶으면 개발팀이 떠나기 어려운 플랫폼이 되거든요.

• 국내 기업들이 이 시장을 보는 이유도 명확해요. 한국에서 AI 서비스를 만들려는 팀은 글로벌 GPU 공급망과 비용 압박을 그대로 맞아요. 자체 데이터센터, 모듈형 인프라, 스팟 요금제 같은 선택지는 결국 “필요한 순간에 GPU를 쓸 수 있냐”라는 문제를 풀기 위한 방식이에요.

• 2030년 수백조원 전망이 과장처럼 보여도 방향성은 꽤 분명해요. AI 경쟁이 모델 논문 싸움에서 운영비와 인프라 조달 싸움으로 내려오면, GPUaaS는 개발팀의 기술 선택지가 아니라 사업 비용을 좌우하는 핵심 레이어가 돼요.