SKT, ARM·리벨리온과 손잡고 GPU 없는 AI 추론 인프라 구축 나서

• SK텔레콤이 ARM, 리벨리온과 손잡고 차세대 AI 추론 인프라를 구축함 — CPU + NPU 조합으로 GPU 없이도 효율적인 AI 서비스를 돌리겠다는 전략
  • AI 산업의 패러다임이 '학습'에서 '추론'으로 넘어가면서, 핵심 과제가 "얼마나 적은 전력으로 빠르고 저렴하게 서비스를 제공하느냐"로 바뀜
  • 추론은 365일 멈추면 안 되니까 전력 효율이 곧 비용 경쟁력

• NPU에 CPU를 결합하는 이유가 명확함 — AI 연산만 하면 되는 게 아니라 데이터 I/O, 네트워크 통신, 메모리 관리, 스케줄링 같은 범용 처리도 동시에 필요
  • CPU가 '관제탑' 역할을 하고 NPU가 AI 추론을 전담하는 이종 컴퓨팅(heterogeneous computing) 구조
• ARM AGI CPU는 ARM이 35년 역사상 처음으로 직접 생산한 데이터센터용 프로세서, 리벨리온의 리벨카드는 대규모 AI 추론 특화 NPU
  • 이미 3월 'Arm 에브리웨어' 행사에서 두 칩을 결합해 GPT OSS 120B 기반 에이전틱 AI를 실시간 시연한 바 있음
• SKT는 자체 파운데이션 모델 A.X K1을 이 인프라 위에서 운영하는 방안도 검토 중
  • "추론 최적화 인프라 + 자체 모델 = 풀 패키지" 전략으로 AI 데이터센터 경쟁력을 강화하겠다는 구상

---

기술 맥락

• AI 추론이 학습과 완전히 다른 워크로드라는 점이 이 협력의 출발점이에요. 학습은 대규모 행렬 연산을 한꺼번에 처리하는 거라 GPU의 병렬 처리 능력이 빛나지만, 추론은 상대적으로 가벼운 연산을 수없이 반복하는 작업이거든요. GPU를 추론에 쓰면 오버스펙인 셈이에요.
• ARM이 데이터센터용 CPU를 직접 만들겠다고 나선 건 꽤 의미 있는 움직임이에요. 그동안 ARM은 칩 설계 IP를 라이선스하는 사업 모델이었는데, 35년 만에 직접 생산에 나선 건 AI 추론 시장이 그만큼 크다고 본 거죠.
• 리벨리온은 한국 팹리스 스타트업인데, NPU 시장에서 엔비디아 GPU 대안으로 자리잡으려는 도전을 하고 있어요. SKT AI 데이터센터에서 실증까지 가면 상용화 레퍼런스가 생기는 거라 리벨리온 입장에서도 큰 건이에요.
• 이종 컴퓨팅 구조는 사실 스마트폰에서는 이미 일상적이에요. CPU+GPU+NPU가 같이 들어가는 모바일 SoC가 대표적이죠. 이걸 데이터센터 스케일로 올린다는 게 이번 협력의 핵심이에요.