화웨이 클라우드, 에이전틱 AI용 인프라와 플랫폼을 한꺼번에 공개

에이전트 시대용 클라우드를 선언한 화웨이

• 화웨이 클라우드가 INSPIRE 2026에서 ‘에이전틱 인프라(Agentic Infra)’를 전면에 내세움

  • 행사는 6월 5~6일 중국 상하이 웨스트번드 국제컨벤션전시센터에서 열림
  • 화웨이 클라우드 CEO 저우 페이는 AI 에이전트가 자율적으로 학습하고 실행하는 시대에는 컴퓨팅 패러다임이 바뀐다고 설명함

• 화웨이가 보는 핵심 병목은 토큰 생산, 지속 학습, 스케줄링, 보안임

  • 에이전트는 한 번 답하고 끝나는 챗봇이 아니라 오래 실행되고, 도구를 호출하고, 상태를 유지해야 함
  • 그래서 GPU만 많이 쌓는 게 아니라 캐시, 메모리, 실행 환경, 보안 격리까지 같이 봐야 한다는 주장임

숫자로 밀어붙인 AI 인프라

• AI 클러스터 서비스(AICS)는 초대형 AI 클러스터를 겨냥함
  • 유니파이드버스(UnifiedBus) 기반으로 10만 장 이상의 AI 가속기를 지원한다고 밝힘
  • 최대 200엑사플롭스(EFLOPS), 토큰 생성 지연시간 10밀리초 이하를 제시함
  • 1,000개 가속기 기준 초당 500만 개 토큰 처리와 99.95% 가용성도 내세움

• 에이전틱 메모리 스토리지(AMS)는 장시간 실행되는 에이전트용 메모리 계층을 담당함

  • PB급 메모리 공간을 제공한다고 설명함
  • 계층형 KV 캐시 풀링으로 추론 비용을 줄이고, 에이전트가 오래 작업을 이어갈 수 있게 만드는 구조임

• CCE 볼케이노넥스트(VolcanoNext)는 AI와 일반 워크로드를 같이 스케줄링하는 엔진임

  • 범용 워크로드와 AI 워크로드를 통합 배치해 자원 활용률을 30% 이상 높였다고 밝힘
  • AI 인프라에서 놀고 있는 자원을 줄이는 게 곧 비용 절감으로 이어지는 대목임

• 에이전트스피어(AgentSphere)는 에이전트용 보안 실행 환경임

  • 100밀리초 이내 기동을 지원함
  • 분당 수십만 개 인스턴스 생성이 가능하다고 설명해 대규모 에이전트 운영을 겨냥함

모델 개발과 에이전트 플랫폼도 같이 공개

• 모델아츠넥스트(ModelArtsNext)는 차세대 모델 개발 플랫폼으로 소개됨

  • 강화학습 서비스(RLaaS), 기밀 추론(Confidential Inference), 모델 라우팅, 모델 매트릭스를 제공함
  • 기업은 1분 이내에 학습 작업을 만들고 학습·추론 과정을 시각적으로 관리할 수 있다고 함

• 모델 라우팅은 요청별로 적합한 AI 모델을 자동 선택하는 기능임

  • 현재 15개 이상의 최신 AI 모델 서비스를 지원한다고 밝힘
  • 화웨이는 모델 선택 정확도 95% 이상, 평균 호출 비용 20% 절감을 달성했다고 설명함

• 에이전트아츠(AgentArts)는 기업용 AI 에이전트 구축 플랫폼임

  • 장기 실행 작업, 엔터프라이즈 보안, 산업 특화 지식, 전체 프로세스 가시성을 제공함
  • 오픈소스 버전인 오픈지우원(OpenJiuwen)은 상용 버전과 90% 이상 동일한 커널을 공유한다고 함

sequenceDiagram
    participant 사용자 as 기업 사용자
    participant 포털 as 에이전트아츠 오차드
    participant 라우터 as 모델 라우팅
    participant 모델 as AI 모델 서비스
    participant 실행환경 as 에이전트스피어
    사용자->>포털: 에이전트 작업 생성
    포털->>라우터: 요청 특성 전달
    라우터->>모델: 최적 모델 선택 및 호출
    모델-->>실행환경: 추론 결과와 실행 계획 전달
    실행환경-->>사용자: 보안 격리된 작업 결과 반환

보안과 산업별 확장까지 묶은 전략

• 화웨이는 AI 시대의 핵심 경쟁력으로 보안을 강하게 밀고 있음
  • 데이터 보안 존(Data Security Zone), HYOK 기반 암호화, 데이터 캡슐, 다중 격리 기술을 공개함
  • 기밀 가상머신(VM), 원격 검증, 키 관리, 기밀 추론 게이트웨이도 함께 제시함

• 산업 AI 파운드리도 4개 영역으로 확장함

  • 스마트 헬스케어, 구현형 AI, 스마트 제조, 과학 컴퓨팅 영역을 공개함
  • 의료 분야에서는 상하이교통대 의대 부속 루이진병원을 포함한 20여 개 병원이 스마트 병리학 솔루션에 참여했다고 함

• 구현형 AI 쪽에서는 클라우드로보(CloudRobo)가 눈에 띔

  • 로봇 모델 개발, 시뮬레이션 검증, 데이터 생성을 통합한 클라우드 기반 로봇 개발 플랫폼임
  • 로봇을 수 시간 내 클라우드 환경으로 이전하고 수 분 내 배포할 수 있다고 설명함

• 생태계 전략도 같이 깔림

  • 지푸 AI, 딥시크, 미니맥스, 키미, 바이두, 아이플라이텍 스파크 등 20개 이상의 AI 기업과 AI 모델 파트너 프로그램을 발표함
  • 결국 화웨이 클라우드 위에서 여러 모델이 공존하고, 산업별 에이전트 서비스로 이어지는 구조를 만들겠다는 얘기임

기술 맥락

• 화웨이가 말하는 에이전틱 인프라는 GPU 클러스터 이름만 바꾼 게 아니에요. 에이전트는 대화 한 번으로 끝나지 않고 여러 도구를 호출하고 상태를 유지하면서 오래 실행되기 때문에, 추론 지연·캐시·스케줄링·격리가 전부 병목이 되거든요.

• AICS와 AMS가 같이 나온 이유도 여기에 있어요. AICS는 대량의 토큰을 빠르게 뽑는 계산 쪽을 맡고, AMS는 장시간 작업에서 KV 캐시와 메모리를 효율적으로 다루는 쪽에 가까워요. 에이전트가 많아질수록 같은 문맥을 계속 다시 계산하면 비용이 터지니까요.

• 모델 라우팅은 기업 입장에서 꽤 실용적인 기능이에요. 모든 요청을 가장 비싼 모델에 보내면 품질은 괜찮아도 비용이 무섭고, 싼 모델만 쓰면 실패율이 올라갈 수 있어요. 그래서 요청 특성에 따라 모델을 골라 평균 호출 비용을 20% 줄였다는 주장이 나오는 거예요.

• 보안 기능이 크게 강조된 것도 자연스러워요. 에이전트가 기업 문서, 고객 데이터, 내부 시스템을 직접 다루기 시작하면 추론 과정 자체가 민감 정보 처리 흐름이 되거든요. HYOK, 기밀 추론, 원격 검증 같은 기능은 클라우드를 쓰면서도 통제권을 잃지 않으려는 기업을 겨냥한 장치예요.