델이 말하는 AI 인프라의 다음 전장, 클라우드가 아니라 온프레미스

• 델 테크놀로지스가 DTW 2026에서 꺼낸 메시지는 꽤 선명함. AI는 클라우드에서 호출만 하는 게 아니라, 기업 데이터센터 안으로 들어온다는 것임

  • 델은 서버, 스토리지, 네트워크, 소프트웨어를 묶은 ‘델 AI 팩토리’ 전략으로 온프레미스 AI 시장을 잡겠다고 말함
  • 이미 5000개 이상의 델 AI 팩토리 고객 구축 경험을 확보했다고 밝힘

• 배경에는 에이전틱 AI 확산이 있음

  • 단순 질의응답이 아니라 AI가 업무를 수행하고 의사결정을 돕는 방향으로 가면, 데이터센터와 엣지, 데스크톱까지 인프라 전략이 바뀜
  • 델은 개발자가 데스크톱에서 AI 에이전트를 만들고 같은 프레임워크와 보안 정책으로 데이터센터 서버까지 확장하는 구상을 내놨음

• 가장 눈에 띄는 발표는 챗GPT, 제미나이, 그록 같은 프론티어 모델을 온프레미스에서 운영하도록 지원하겠다는 부분임

  • 예전에는 이런 모델을 주로 클라우드에서만 썼지만, 델은 파워엣지 서버 기반 기업 내부 환경에서도 돌릴 수 있게 하겠다고 설명함
  • 핵심은 고객 데이터가 외부 클라우드로 이동하지 않고 자체 데이터센터 안에 남는다는 점임

• 델은 AI 인프라가 GPU만으로 완성되지 않는다고 강조함

  • 랙 설계, 냉각, 네트워킹, 케이블링, 구축 속도, 소프트웨어까지 같이 맞아야 한다는 주장임
  • 이번에 공개한 델 파워랙은 더 많은 GPU를 하나의 랙에 넣기 위해 냉각 효율과 전력 사용량을 최적화한 제품임

• 기존 데이터센터 현대화 숫자도 꽤 공격적임

  • 델은 18세대 파워엣지 서버 1대가 기존 14세대 서버 13대를 대체할 수 있을 정도로 효율이 높아졌다고 설명함
  • 신형 파워스토어는 최대 6대1 데이터 절감 효율을 지원한다고 밝힘

• 그렇다고 ‘클라우드 끝, 온프레미스 시작’ 같은 단순한 얘기는 아님

  • 델도 핵심 워크로드는 온프레미스에서 돌리고, 트래픽이 튀면 퍼블릭 클라우드나 서비스형 GPU(GPUaaS)를 쓰는 하이브리드 전략을 예상함
  • 기업 입장에서는 모델 선택보다 데이터 위치, 비용 구조, 보안 정책, 운영 역량을 같이 봐야 하는 국면으로 가는 중임

---

기술 맥락

• 델이 온프레미스 AI를 강조하는 이유는 모델 성능보다 운영 비용과 데이터 통제 문제가 커지고 있기 때문이에요. 에이전틱 AI는 한 번 답하고 끝나는 게 아니라 여러 번 계획하고 호출하고 실행하니까 토큰 사용량이 쉽게 커지거든요.

• 온프레미스의 장점은 데이터가 내부에 남는다는 점이에요. 금융, 제조, 공공처럼 민감한 데이터가 많은 조직은 모델 호출을 위해 데이터를 외부 클라우드로 보내는 것 자체가 리스크가 될 수 있어요.

• 대신 온프레미스는 공짜 점심이 아니에요. GPU만 사면 끝나는 게 아니라 전력, 냉각, 네트워크, 스토리지, 배포 자동화까지 한 세트로 굴러가야 해요. 델이 랙과 스토리지 숫자를 같이 말한 것도 이 이유예요.

• 현실적인 결론은 하이브리드에 가까워요. 예측 가능한 핵심 워크로드는 내부에서 돌리고, 갑자기 수요가 몰리는 구간은 클라우드나 GPUaaS를 붙이는 식으로 비용과 탄력성을 같이 잡으려는 흐름이에요.