국내 클라우드 시장, 이제 서버 운영보다 GPU 확보 싸움으로 간다

클라우드 경쟁의 중심이 GPU로 이동 중

• 국내 클라우드 시장이 AI 인프라 중심으로 빠르게 재편되고 있음

  • 예전에는 가상화 기술, 서버 운영 효율, 안정적인 클라우드 서비스가 핵심이었다면 지금은 GPU 확보와 데이터센터 확장이 더 큰 변수로 올라옴
  • 생성형 AI가 확산되면서 모델 학습과 추론에 필요한 GPU 수요가 폭증했고, 클라우드 기업들의 투자 우선순위도 바뀌는 중임

• AI 모델 하나를 제대로 굴리려면 이제 컴퓨팅 자원만이 아니라 전력과 냉각까지 같이 봐야 함

  • 최신 GPU는 기존 서버보다 훨씬 많은 전력을 쓰고 발열도 큼
  • 그래서 액체 냉각, 수냉식 데이터센터, 대규모 전력 공급 체계가 클라우드 경쟁력의 일부가 되고 있음

네이버클라우드와 NHN클라우드는 AI 인프라 수요를 타는 중

• 올해 1분기 실적에서도 AI 인프라 전환 속도 차이가 드러남

  • 네이버클라우드와 NHN클라우드는 AI 인프라 수요 증가에 힘입어 20% 안팎 성장세를 이어감
  • KT클라우드는 매출 규모는 컸지만 성장률은 전년 수준에 머물렀고, 업계에서는 AI 전환 속도 차이가 영향을 주기 시작했다고 보고 있음

• 네이버클라우드는 GPU 기반 B2B 사업 확대에 집중하고 있음

  • 기업들이 자체 AI 모델 개발에 나서면서 GPU를 서비스 형태로 빌려 쓰려는 수요가 빠르게 늘고 있음
  • 지난해부터 확보한 GPU 기반 B2B 매출이 올해 들어 본격적으로 반영되기 시작했다는 설명임

• 데이터센터 자체도 경쟁력으로 올라옴

  • 생성형 AI 서비스가 커질수록 필요한 GPU 물량이 늘고, GPU가 늘면 데이터센터 공간과 전력 수요도 같이 증가함
  • 네이버클라우드는 자체 데이터센터 증설과 외부 상면 임차를 동시에 진행 중임

• 네이버의 해외 소버린 AI 사업도 같은 흐름 위에 있음

  • 각국 정부와 기업이 데이터를 직접 통제하려는 수요가 커지면서 현지 맞춤형 AI 구축이 중요해지고 있음
  • 네이버는 사우디아라비아 디지털트윈과 슈퍼앱 사업을 추진하며 해외 AI 시장 확대에 나서고 있음

GPUaaS와 공공 AI가 새 수요를 만든다

• NHN클라우드도 GPU 인프라 확대에 공격적으로 움직이고 있음

  • 서울 양평 리전에 수냉식 기반 GPU 인프라를 구축함
  • 광주 국가 AI데이터센터에도 차세대 GPU 환경을 마련함

• GPUaaS가 빠르게 확산하는 것도 핵심 포인트임

  • 기업 입장에서는 GPU를 직접 사면 초기 비용이 너무 크고, 수요가 계속 변하기 때문에 필요한 만큼 빌려 쓰는 방식이 매력적임
  • 생성형 AI 개발 비용 부담이 커질수록 GPUaaS 수요는 더 커질 가능성이 높음

• 공공 시장도 단순 클라우드 이전에서 AI 기반 시스템 구축으로 무게중심이 옮겨가는 중임
  • 정부 부처와 공공기관들이 AI 도입 검토에 속도를 내면서 국내 CSP들에게 새 기회가 열리고 있음
  • 과거 공공 클라우드가 시스템 이전 중심이었다면, 이제는 AI 행정 시스템과 데이터 활용 체계 구축 쪽으로 이동하는 분위기임

KT클라우드와 정부 정책 변수

• KT클라우드는 아직 AI 인프라 매출 비중이 상대적으로 크지 않은 상황임

  • 지난해 반영됐던 대형 데이터센터 구축 사업 효과가 줄면서 올해 1분기 성장률이 제한됨
  • 다만 KT도 가산 데이터센터를 중심으로 AI 인프라 확대를 진행하고 있고, 액체 냉각 기술 테스트도 병행 중임

• 정부의 GPU 구축 사업도 시장 흐름을 밀고 있음

  • 정부는 지난해 GPU 확보 사업에 이어 올해도 대규모 GPU 구축 사업을 추진 중임
  • 네이버클라우드, KT클라우드, 삼성SDS, 쿠팡, 엘리스그룹 등이 올해 GPU 사업에 참여함
  • 업계에서는 정부 사업 경험이 향후 공공 AI 시장 경쟁력으로 이어질 수 있다고 보고 있음

• 다만 공공 클라우드 쪽에는 아직 불확실성이 남아 있음

  • 클라우드보안인증(CSAP) 체계 개편과 국가망보안체계(N2SF) 방향이 아직 정리되지 않았음
  • 공공기관 입장에서는 보안 기준 변화에 따라 사업 속도를 조정할 가능성이 있음

• 그래도 큰 방향은 꽤 선명함

  • 생성형 AI 도입이 늘어날수록 GPU와 데이터센터 수요는 같이 커질 수밖에 없음
  • 국내 CSP들이 AI 데이터센터와 GPU 확보 경쟁에 뛰어드는 건 일시적 유행이라기보다 클라우드 산업의 기본 체력이 바뀌는 장면에 가까움

---

기술 맥락

• 이번 흐름의 핵심 선택은 클라우드 사업자가 서버 운영 효율보다 GPU 인프라에 돈과 시간을 더 쓰기 시작했다는 거예요. 왜냐면 생성형 AI는 일반 웹서비스처럼 CPU와 메모리만 적당히 맞춘다고 되는 게 아니라, GPU 수량과 성능이 곧 서비스 가능 범위를 결정하거든요.

• GPUaaS가 뜨는 이유도 비용 구조 때문이에요. 기업이 고가 GPU를 직접 사면 초기 투자와 운영 부담이 너무 큰데, 클라우드로 빌려 쓰면 실험 단계에서 훨씬 유연하게 움직일 수 있어요. 대신 CSP 입장에서는 GPU 수급, 리전 배치, 과금 모델, 장애 대응까지 다 감당해야 해요.

• 수냉식 데이터센터와 액체 냉각이 같이 언급되는 것도 우연이 아니에요. GPU를 많이 꽂으면 전력 사용량과 발열이 급격히 커지기 때문에, 기존 공랭식 운영만으로는 밀도 높은 AI 클러스터를 안정적으로 돌리기 어려워져요.

• 공공 AI 시장에서는 기술력만으로 끝나지 않아요. CSAP와 N2SF 같은 보안 기준이 정리돼야 공공기관이 민간 클라우드와 GPU 인프라를 어느 수준까지 쓸 수 있는지 결정되거든요. 그래서 국내 CSP 입장에서는 인프라 투자와 규제 대응이 한 묶음으로 움직이는 셈이에요.