KT클라우드, 리벨리온 NPU 얹은 공공 전용 AI 서버 출시

• KT클라우드가 공공기관 전용 클라우드에 국산 NPU 서버를 붙였음

  • 칩은 국내 팹리스 리벨리온의 데이터센터용 NPU ‘아톰 플러스(ATOM Plus)’를 사용함
  • KT클라우드는 국내 클라우드 사업자 중 처음으로 국산 NPU 기반 서버를 선보였다고 주장함

• 핵심은 그냥 ‘국산 칩 썼다’가 아니라, 공공 조달에서 먹히는 조건을 맞췄다는 점임

  • KT클라우드는 가상머신(VM) 방식 NPU 인프라를 공공 전용 데이터센터에서 상용화함
  • 국내 NPUaaS 최초로 클라우드 보안인증(CSAP)을 획득했다고 밝힘
  • 공공 AX 사업 참여 고객은 보안 규제 준수와 국산 AI 반도체 활용 정책 가점 요건을 동시에 챙길 수 있음

• NPUaaS는 NPU를 직접 사지 않고 클라우드에서 필요한 만큼 빌려 쓰는 방식임

  • 공공기관이나 지자체 대상 AI 솔루션 기업이 민원 상담, 행정 업무 지원, 문서 검색·분석 같은 AI 에이전트 서비스를 올릴 수 있음
  • 하드웨어를 직접 구매하지 않아도 되니 초기 비용과 운영 부담을 낮출 수 있음

• KT클라우드가 보는 시장 흐름은 ‘학습에서 추론으로 이동’임

  • 최근 AI 워크로드 비중이 모델 학습보다 실제 서비스 요청을 처리하는 추론 쪽으로 빠르게 옮겨가고 있음
  • 추론에 최적화된 NPU는 운영 효율을 높이고 비용 부담을 낮출 수 있다는 게 KT클라우드의 기대임
  • GPU가 여전히 강력하지만, 모든 추론 트래픽을 비싼 GPU로 처리하는 게 늘 정답은 아니라는 얘기임

• KT클라우드는 이 상품을 지난 4월 출시한 ‘AI 넥서스(AI Nexus)’와도 엮고 있음

  • AI 넥서스는 모델 학습, 추론, 배포까지 AI 파이프라인을 하나의 플랫폼에서 제공하는 통합 플랫폼임
  • ‘모델 서빙(Model Serving)’ 기능을 강화해서 자체 개발 모델을 복잡한 배포 과정 없이 클릭 몇 번으로 추론 환경에 올릴 수 있다고 설명함
  • 자체 모델이 없는 스타트업이나 중소기업은 ‘모델 스토어(Model Store)’에서 오픈소스 모델을 골라 대규모 언어 모델(LLM) 기반 서비스를 구성할 수 있음

• GPU 라인업도 같이 밀고 있음

  • AI 넥서스는 엔비디아 A100, H100, H200을 지원함
  • 올해 3분기 초에는 차세대 GPU인 엔비디아 B300 기반 서비스까지 지원 범위를 넓힐 계획임
  • 즉, KT클라우드는 국산 NPU만 고집한다기보다 GPU와 NPU를 워크로드에 맞게 고르는 AI 인프라 플랫폼을 만들겠다는 쪽에 가까움

---

기술 맥락

• 이번 선택의 핵심은 공공기관용 AI 추론 인프라를 ‘인증된 클라우드 상품’으로 만든 거예요. 공공 쪽은 좋은 칩 하나 들여왔다고 바로 쓰기 어렵고, 보안인증과 운영 가이드라인을 맞춰야 예산 집행과 사업 제안이 가능하거든요.

• NPU를 클라우드 서비스로 제공하는 이유는 추론 워크로드의 비용 구조 때문이에요. 모델 학습은 여전히 고성능 GPU가 중심이지만, 실제 서비스에서는 수많은 요청을 계속 처리해야 해서 단가와 전력 효율이 더 민감해져요.

• AI 넥서스와 연결한 것도 단순 포장이 아니에요. 모델을 고르고, 배포하고, 서빙하는 과정이 한 플랫폼에 있어야 공공기관이나 중소기업이 인프라 엔지니어를 크게 늘리지 않고도 서비스를 굴릴 수 있거든요.

• 결국 KT클라우드가 노리는 건 ‘국산 NPU를 쓴 서버’ 자체보다 공공 AI 사업자가 바로 제안서에 넣을 수 있는 운영 환경이에요. 이게 실제 채택으로 이어지려면 리벨리온 NPU의 추론 성능, 모델 호환성, 운영 비용 데이터가 앞으로 더 중요해질 거예요.