정부는 GPU 9,704장, 엔비디아는 국내 대기업과 AI 팩토리 판 키운다

한국 AI 인프라, 이제 숫자가 꽤 커짐

• 과기정통부가 ‘AI 고속도로’ 구축 사업 참여 기업으로 네이버클라우드, 삼성SDS, 엘리스그룹을 골랐음

  • 총 사업 규모는 2조 800억 원
  • 목표는 민간 클라우드 사업자와 함께 국가 AI 인프라에 쓸 첨단 GPU를 확보하는 것
  • 정부 활용분은 독자 AI 파운데이션 모델 개발과 국가 AI 프로젝트에 들어가고, 민간 활용분은 클라우드 서비스 확장에 쓰임

• 확보하는 GPU는 총 9,704장인데, 구성도 꽤 공격적임

  • 엔비디아 차세대 모델 베라루빈 2,016장
  • 엔비디아 B300 7,688장
  • 원래 B200 기준 1만 5,000장을 목표로 잡았지만, 최신 모델을 쓰면서 컴퓨팅 성능은 목표 대비 약 30% 더 높아졌다고 봄

• 일정도 이미 나왔음
  • 정부와 클라우드 3사는 이달 중 구매 발주를 진행할 예정
  • B300 기반 서비스는 연내 시작 목표
  • 베라루빈은 출시 일정을 고려해 2027년 상반기부터 순차 서비스 예정

엔비디아의 한국 AI 팩토리 판짜기

• 엔비디아는 국내 주요 그룹사들과 ‘AI 팩토리’ 연합을 만들고 있음

  • 단순히 GPU를 파는 게 아니라, 가속 컴퓨팅 아키텍처와 시뮬레이션 플랫폼을 한국 산업 현장에 깔겠다는 전략에 가까움
  • 제조, 인프라, 소프트웨어, 로봇까지 한 번에 엮는 구조라서 개발자 입장에서도 클라우드·데이터·제조 시스템 경계가 더 흐려질 가능성이 큼

• 삼성전자는 엔비디아 옴니버스를 활용해 반도체 제조 AI 팩토리를 만들겠다고 밝힘

  • 옴니버스는 가상 시뮬레이션과 디지털 트윈에 쓰이는 엔비디아 플랫폼
  • 반도체 제조처럼 비용이 큰 공정에서는 실제 장비를 움직이기 전에 가상 환경에서 실험하고 최적화하는 가치가 큼

• SK 쪽은 GPU 인프라와 메모리 양쪽을 잡는 그림임

  • SK텔레콤은 국내 최초의 인프라형 AI 팩토리를 2027년 가동 목표로 추진 중
  • SK하이닉스는 HBM4 공동 개발로 대규모 AI 인프라에 필요한 메모리 쪽을 받침

• 네이버와 LG는 각각 소버린 AI와 피지컬 AI 쪽으로 붙음

  • 네이버는 아시아 시장을 겨냥한 소버린 AI 데이터센터 중심으로 AI 팩토리를 확장 중
  • LG그룹은 엔비디아 아이작 플랫폼을 로봇 개발에 이식해 피지컬 AI 데이터 팩토리를 만들고, 수랭식 솔루션과 물류 플랫폼까지 연결하려는 그림

AI 데이터센터의 다음 논쟁은 물임

• 아마존은 지난해 전 세계 자사 시설에서 물 946만 톤, 약 95억 리터를 썼다고 공개함

  • 이 규모는 미국 시애틀 광역권 연간 물 사용량의 약 5% 수준
  • AI 데이터센터가 전력만 먹는 게 아니라 냉각용 물까지 큰 변수라는 걸 보여주는 숫자임

• 아마존은 자사 냉각 방식이 경쟁사보다 효율적이라고 주장함

  • 기온이 높은 날에만 물을 쓰는 방식
  • 물 부족 지역에서는 외부 수자원에 의존하지 않는 폐쇄형 순환 구조의 공랭식 냉각기를 사용
  • 공개된 물 사용 효율성은 전력 1킬로와트시당 0.12리터
  • 마이크로소프트의 0.27리터보다 낮고 업계 평균보다도 좋다는 설명

• 아마존은 2030년까지 ‘워터 포지티브’를 목표로 내세움
  • 취수량보다 많은 물을 환원하겠다는 개념
  • 현재 26곳 데이터센터에 재생수를 공급 중
  • 100개 이상의 물 재이용 프로젝트도 추진 중

---

기술 맥락

• 이번 정부 GPU 확보의 핵심은 ‘국가가 직접 모든 걸 짓는다’가 아니라 민간 클라우드 사업자와 같이 컴퓨팅 풀을 만든다는 점이에요. AI 모델 학습은 GPU를 잠깐 빌리는 수준으로 끝나지 않아서, 네이버클라우드·삼성SDS·엘리스그룹 같은 국내 클라우드 사업자의 운영 역량이 같이 중요해져요.

• 베라루빈과 B300을 섞어 가져가는 이유도 일정과 성능의 균형 때문이에요. B300은 연내 서비스가 가능하고, 베라루빈은 더 차세대지만 2027년 상반기부터 순차 투입돼요. 즉 당장 필요한 추론·학습 수요는 B300으로 풀고, 장기 국가 프로젝트는 다음 세대 GPU까지 보는 구성이에요.

• 엔비디아의 AI 팩토리 전략은 GPU 판매보다 더 큰 그림이에요. 제조사는 디지털 트윈으로 공정을 시뮬레이션하고, 통신사는 GPU 인프라를 운영하고, 로봇 기업은 피지컬 AI 데이터를 쌓는 식으로 각 레이어가 연결돼요. 그래서 개발자에게도 단순 모델 호출이 아니라 데이터 파이프라인, 시뮬레이션, 인프라 운영 지식이 같이 요구될 수 있어요.

• 물 사용량 공개가 중요한 이유는 데이터센터 병목이 점점 전력·냉각·입지로 옮겨가고 있기 때문이에요. 모델이 커질수록 GPU만 사면 끝나는 게 아니라, 그 GPU를 식히고 돌릴 수 있는 지역 자원과 규제 대응이 전체 비용을 좌우하거든요.