엔비디아 ‘베라 루빈’, 블랙웰보다 설치 쉬워졌지만 전력·냉각은 더 빡세다

블랙웰 때 고생한 클라우드 업체들, 이번엔 좀 덜 아플 수도 있음

• 엔비디아의 차세대 AI 서버 플랫폼 ‘베라 루빈(Vera Rubin)’이 주요 클라우드 사업자들한테 초기 호평을 받고 있음

  • 지난해 ‘그레이스 블랙웰(Grace Blackwell)’ 도입 때는 GPU, CPU, 네트워크, 냉각 시스템이 한꺼번에 바뀌면서 설치와 안정화가 꽤 빡셌음
  • 그 여파로 AI 데이터센터 가동이 늦어지고, 당연히 수익화 시점도 밀렸음

• 이번 베라 루빈 초기 제품은 “완전 신제품”이라기보다 블랙웰 구조를 발전시킨 형태에 가까움

  • 초기 랙 구성은 72개 GPU와 36개 CPU
  • 그레이스 블랙웰과 거의 동일한 구조를 채택해서, 고객 입장에선 도입 리스크가 줄어드는 셈임
  • 한 클라우드 기업 임원은 기계적 구조와 냉각 설계가 이미 3세대 제품 수준이라 대규모 설치도 아주 어렵진 않을 거라고 봄

• 소프트웨어 호환성도 개선 포인트로 꼽힘

  • 엔비디아는 기존 그레이스 블랙웰용 소프트웨어를 대부분 그대로 활용할 수 있게 설계했다고 함
  • 클라우드 업체들은 대규모 클러스터 운영을 위한 소프트웨어 최적화에 수개월 정도면 충분할 것으로 보고 있음

그래도 데이터센터 입장에선 여전히 괴물급 난이도

• 베라 루빈이 쉬워졌다고 해서 “그냥 꽂으면 끝” 수준은 전혀 아님

  • 베라 루빈 랙은 130만 개 부품으로 구성됨
  • 초기 블랙웰의 120만 개보다 오히려 더 복잡해졌음
  • 새로운 네트워크 스위치와 칩 간 연결 기술도 들어가서, 대규모 장애가 터지면 원인 추적이 여전히 어려울 수 있음

• 전력과 냉각은 더 큰 숙제로 남아 있음

  • 베라 루빈 랙은 블랙웰보다 랙당 전력 소비가 75% 증가함
  • 발열도 더 높아졌고, 냉각 시스템 자체의 전력 효율은 좋아졌지만 설치 과정은 더 복잡해졌다는 평가가 있음
  • 일부 전문가는 열 설계 문제 때문에 초기 생산 일정이 약 두 달 지연됐다고 분석함

• 기존 데이터센터를 살짝 고쳐 쓰는 방식보다, 엔비디아 권장 설계에 맞춰 새 데이터센터를 짓는 게 낫다는 얘기까지 나옴

  • 케이블 배선, 전력 설비, 관리 소프트웨어까지 같이 바꿔야 해서 투자 규모가 커짐
  • 결국 GPU를 사는 문제가 아니라, 전력·냉각·운영 자동화까지 포함한 전체 인프라 게임이 됨

내년 ‘베라 루빈 울트라’가 진짜 시험대

• 업계는 내년 출시 예정인 ‘베라 루빈 울트라(Vera Rubin Ultra)’를 더 큰 시험대로 보고 있음

  • 울트라는 최대 576개 GPU를 하나의 시스템으로 연결함
  • 기존보다 약 3배 많은 전력이 필요함
  • 서버 트레이를 수직으로 배치하는 새로운 랙 구조가 적용돼 설치 난도가 다시 올라갈 수 있음

• 일부 클라우드 업체들은 울트라 모델에서 블랙웰 출시 때와 비슷한 구축 난관이 재현될 가능성도 보고 있음

  • 베라 루빈 기본형은 블랙웰의 시행착오를 줄인 버전처럼 보이지만, 울트라는 다시 구조적 변화가 커질 수 있음
  • 대규모 AI 인프라에서는 세대가 바뀔 때마다 성능보다 “운영 가능한가”가 먼저 문제가 되는 분위기임

---

기술 맥락

• 이번 이슈의 핵심은 GPU 성능 자체보다 “클러스터를 얼마나 빨리 안정화하느냐”예요. 블랙웰은 GPU, CPU, 네트워크, 냉각이 동시에 바뀌면서 고객들이 설치와 운영에서 고생했거든요.

• 베라 루빈은 기존 블랙웰 구조를 크게 이어가면서 도입 리스크를 낮추려는 선택으로 보여요. 완전히 새 아키텍처를 밀어붙이면 성능은 튈 수 있지만, 클라우드 업체 입장에선 랙 설치, 냉각 연결, 장애 대응, 소프트웨어 최적화가 전부 다시 숙제가 돼요.

• 엔비디아가 토큰 처리 전력 효율을 강조하는 이유도 분명해요. 생성형 AI 서비스는 추론 요청이 계속 쌓일수록 전기요금과 냉각 비용이 크게 불어나거든요. 서버 가격이 두 배 이상 높아도 전력 효율이 충분히 좋으면 총소유비용 관점에선 말이 될 수 있어요.

• 다만 랙당 전력 소비 75% 증가와 130만 개 부품 구성은 운영팀에 꽤 무거운 신호예요. 대규모 장애가 났을 때 원인을 찾기 어렵고, 기존 데이터센터를 개조하는 것보다 새 시설을 짓는 쪽이 더 낫다는 얘기가 나오는 것도 이 때문이에요.