---
title: "SKT, ARM·리벨리온과 손잡고 GPU 없는 AI 추론 인프라 구축 나서"
published: 2026-04-10T19:05:02.287Z
canonical: https://jeff.news/article/1658
---
# SKT, ARM·리벨리온과 손잡고 GPU 없는 AI 추론 인프라 구축 나서

SK텔레콤이 ARM의 AGI CPU와 리벨리온의 NPU '리벨카드'를 결합한 이종 컴퓨팅 구조로 AI 추론 서버 성능을 검증한다. GPU 대비 전력 효율이 압도적인 CPU+NPU 조합으로 AI 데이터센터 경쟁력을 확보하겠다는 전략.

- SK텔레콤이 ARM, 리벨리온과 손잡고 차세대 AI 추론 인프라를 구축함 — CPU + NPU 조합으로 GPU 없이도 효율적인 AI 서비스를 돌리겠다는 전략
  - AI 산업의 패러다임이 '학습'에서 '추론'으로 넘어가면서, 핵심 과제가 "얼마나 적은 전력으로 빠르고 저렴하게 서비스를 제공하느냐"로 바뀜
  - 추론은 365일 멈추면 안 되니까 전력 효율이 곧 비용 경쟁력

> [!IMPORTANT]
> GPU로 AI 추론을 돌리는 건 "대형 트럭으로 택배 배달하는 것"과 같음. NPU는 이런 추론 작업에 특화된 전용 칩으로, 전력 효율이 GPU 대비 압도적이다.

- NPU에 CPU를 결합하는 이유가 명확함 — AI 연산만 하면 되는 게 아니라 데이터 I/O, 네트워크 통신, 메모리 관리, 스케줄링 같은 범용 처리도 동시에 필요
  - CPU가 '관제탑' 역할을 하고 NPU가 AI 추론을 전담하는 이종 컴퓨팅(heterogeneous computing) 구조
- ARM AGI CPU는 ARM이 35년 역사상 처음으로 직접 생산한 데이터센터용 프로세서, 리벨리온의 리벨카드는 대규모 AI 추론 특화 NPU
  - 이미 3월 'Arm 에브리웨어' 행사에서 두 칩을 결합해 GPT OSS 120B 기반 에이전틱 AI를 실시간 시연한 바 있음
- SKT는 자체 파운데이션 모델 A.X K1을 이 인프라 위에서 운영하는 방안도 검토 중
  - "추론 최적화 인프라 + 자체 모델 = 풀 패키지" 전략으로 AI 데이터센터 경쟁력을 강화하겠다는 구상

---

## 기술 맥락

- AI 추론이 학습과 완전히 다른 워크로드라는 점이 이 협력의 출발점이에요. 학습은 대규모 행렬 연산을 한꺼번에 처리하는 거라 GPU의 병렬 처리 능력이 빛나지만, 추론은 상대적으로 가벼운 연산을 수없이 반복하는 작업이거든요. GPU를 추론에 쓰면 오버스펙인 셈이에요.
- ARM이 데이터센터용 CPU를 직접 만들겠다고 나선 건 꽤 의미 있는 움직임이에요. 그동안 ARM은 칩 설계 IP를 라이선스하는 사업 모델이었는데, 35년 만에 직접 생산에 나선 건 AI 추론 시장이 그만큼 크다고 본 거죠.
- 리벨리온은 한국 팹리스 스타트업인데, NPU 시장에서 엔비디아 GPU 대안으로 자리잡으려는 도전을 하고 있어요. SKT AI 데이터센터에서 실증까지 가면 상용화 레퍼런스가 생기는 거라 리벨리온 입장에서도 큰 건이에요.
- 이종 컴퓨팅 구조는 사실 스마트폰에서는 이미 일상적이에요. CPU+GPU+NPU가 같이 들어가는 모바일 SoC가 대표적이죠. 이걸 데이터센터 스케일로 올린다는 게 이번 협력의 핵심이에요.

## 핵심 포인트

- GPU 추론은 '대형 트럭으로 택배 배달'하는 것 — NPU는 추론 특화 칩으로 전력 효율 압도적
- ARM이 35년 역사상 최초로 직접 생산한 데이터센터용 CPU 'Arm AGI CPU' 투입
- 3월에 이미 GPT OSS 120B 기반 에이전틱 AI를 실시간 시연
- SKT 자체 파운데이션 모델 A.X K1도 이 인프라에서 운영 검토 중

## 인사이트

AI 산업이 학습에서 추론으로 넘어가면서 'GPU 독점' 구도에 균열이 생기기 시작했음. 리벨리온 같은 한국 팹리스 스타트업이 NPU 시장에서 엔비디아 대안으로 자리잡을 수 있는 기회가 열린 셈.