엔비디아, AI 팩토리 설계·운영 플랫폼 DSX 공개

• 엔비디아가 AI 팩토리 구축용 통합 플랫폼 NVIDIA DSX를 공개했음

  • 발표 장소는 GTC 타이베이임
  • DSX는 AI 팩토리의 설계, 배포, 운영 전 과정을 지원하는 플랫폼임
  • 오픈소스 소프트웨어 라이브러리, API, 레퍼런스 디자인, 엔비디아 가속 컴퓨팅 플랫폼, 파트너 기술을 한데 묶음

• 엔비디아가 말하는 AI 팩토리는 그냥 GPU 서버실이 아님

  • 컴퓨팅, 소프트웨어, 시설, 전력, 냉각, 파트너 기술까지 하나의 스택으로 보는 접근임
  • 목표는 배포 속도를 높이고, 운영 신뢰성과 복원력을 강화하고, 메가와트당 더 많은 인텔리전스를 뽑아내는 것임
  • 동시에 토큰당 비용을 최소화하겠다는 얘기라, 결국 전력 대비 추론·학습 효율 싸움임

• 새 구성 요소로 DSX MaxLPS와 DSX OS가 들어감

  • DSX MaxLPS는 일정 전력 한도 안에서 메가와트당 토큰 성능을 극대화해 토큰 비용을 낮추는 기술 제품군임
  • 엔비디아 설명에 따르면 최적 전력 효율 구간에서 최대 40% 더 많은 GPU 운영을 지원함
  • DSX OS는 AI 팩토리 운영용 모듈형 오픈소스 소프트웨어로, 수명주기 관리와 지능형 스케줄링, 일관된 런타임 환경을 제공함
  • 여기에 상태 자동화, 복원력, 멀티 테넌트 운영, 플랫폼 서비스까지 포함됨

• 기존 DSX 구성도 꽤 인프라 운영 쪽으로 맞춰져 있음

  • DSX 레퍼런스 디자인은 컴퓨팅, 네트워킹, 스토리지, 시설 인프라를 포함한 AI 팩토리 아키텍처를 제공함
  • DSX Sim은 계획, 설계, 배포, 운영 전 과정을 가상으로 검증하는 고충실도 시뮬레이션 레이어임
  • DSX Flex는 전력망과 AI 팩토리를 연결해 전력 수요 변화에 맞춰 워크로드를 조정함
  • DSX Exchange는 컴퓨팅, 네트워크, 전력, 냉각 설비 신호를 안전하게 통합하는 역할임

• 클라우드 사업자와 시스템 제조사 참여도 이미 꽤 넓음

  • 코어위브, 크루소, 퍼머스, IREN, 람다, 네비우스, 엔스케일, 요타 데이터 서비스가 DSX Sim, DSX MaxLPS, DSX OS를 도입했다고 함
  • 델, HPE, 레노버, 슈퍼마이크로는 물론 ASUS, 폭스콘, 기가바이트, 페가트론, QCT, 위스트론, Wiwynn도 DSX-레디 시스템을 구축 중임
  • 다쏘시스템, 케이던스, 지멘스와는 AI 팩토리 디지털 트윈과 시뮬레이션 생태계를 넓히는 쪽으로 협력 중임

• 개발자와 인프라 팀 입장에선 “AI 데이터센터 운영체제”에 가까운 얘기임

  • 학습과 추론을 돌리는 서버만 보는 게 아니라 전력 제한, 냉각 상태, 스케줄링, 멀티 테넌트 운영까지 같이 봐야 함
  • AI 워크로드가 커질수록 병목은 GPU 개수만이 아니라 전력, 시설, 운영 자동화로 이동함
  • DSX는 그 병목을 엔비디아 생태계 안에서 설계하고 시뮬레이션하고 운영하게 만드는 플랫폼 전략임

---

기술 맥락

• DSX의 핵심 선택은 AI 인프라를 서버 묶음이 아니라 공장처럼 다루는 거예요. 모델 학습과 추론이 계속 돌아가려면 GPU뿐 아니라 전력, 냉각, 네트워크, 스토리지, 스케줄링이 같이 최적화돼야 하거든요.

• DSX MaxLPS가 전력 한도 안에서 토큰 성능을 높이려는 이유도 분명해요. 대규모 AI 팩토리에서는 전력 공급이 병목이 되기 쉬워서, 같은 메가와트로 더 많은 토큰을 처리하면 바로 비용 경쟁력이 생겨요.

• DSX OS는 운영 레이어를 표준화하려는 시도에 가까워요. 멀티 테넌트 환경에서 여러 고객이나 워크로드가 GPU를 나눠 쓰려면 스케줄링, 런타임 일관성, 장애 복구가 플랫폼 차원에서 맞물려야 해요.

• DSX Sim과 디지털 트윈이 들어간 것도 현실적인 선택이에요. AI 팩토리는 짓고 나서 고치기엔 비용이 너무 커서, 배포 전에 전력·냉각·컴퓨팅 구성을 시뮬레이션으로 검증하는 게 중요해요.