본문으로 건너뛰기
피드

SKT, Arm·리벨리온과 손잡고 CPU+NPU 결합 AI 추론 서버 개발

ai-ml 약 3분
vote
0
댓글
북마크

SK텔레콤이 Arm, 리벨리온과 CPU+NPU 결합 AI 서버 솔루션을 공동 개발하기로 함. GPU 대비 전력 효율이 높은 이종 컴퓨팅 방식으로, AI 추론 시대의 데이터센터 경쟁력 확보를 노림.

  • 1

    Arm AGI CPU + 리벨리온 리벨카드(NPU) 결합 서버 솔루션

  • 2

    AI 학습→추론 전환기, 전력 효율이 핵심 경쟁력으로 부상

  • 3

    SKT 자체 AI 데이터센터에 우선 적용 후 A.X K1 모델 운영에 활용 검토

  • SKT가 Arm, 리벨리온과 차세대 AI 인프라 구축을 위한 MOU를 체결함

    • 핵심은 CPU(Arm AGI CPU) + NPU(리벨리온 리벨카드)를 결합한 서버 솔루션 공동 개발
    • 리벨카드는 올해 3분기 출시 예정인 AI 추론 전용 칩임
  • AI 산업이 '학습'에서 '추론' 단계로 무게중심이 이동하고 있음

    • 추론은 24시간 상시 운영되는 만큼 전력 효율과 비용이 곧 경쟁력임
    • 기존 GPU 기반 구조는 추론에도 쓸 수 있지만 전력 소모와 비용 부담이 큼

중요

> GPU가 AI 학습의 왕이었다면, 추론 시대에는 NPU가 대안으로 급부상 중. 추론은 한 번 하고 끝나는 게 아니라 서비스가 살아있는 동안 쉬지 않고 돌아가기 때문에, 전력 효율이 곧 경쟁력임.

  • CPU+NPU 이종 컴퓨팅 구조로 역할을 분담함

    • CPU가 시스템 관제탑 역할(데이터 처리, 시스템 운영 총괄)
    • NPU가 AI 추론 연산 전담 — 각자 잘하는 걸 맡는 구조임
  • SKT는 이 솔루션을 자체 AI 데이터센터에 먼저 적용해 검증할 계획임

    • 자체 파운데이션 모델 A.X K1 운영에 활용하는 방안도 검토 중
    • 최종 목표는 저전력·고효율 AI 추론 인프라 확보와 데이터센터 경쟁력 강화

기술 맥락

  • AI 추론이 왜 별도 칩이 필요한지 궁금할 수 있는데요. 학습은 한 번 하면 끝이지만 추론은 서비스가 살아있는 동안 계속 돌아가거든요. 매일 수백만 건의 요청을 처리하려면 전력 효율이 핵심이에요
  • GPU는 원래 병렬 연산에 특화된 칩인데, AI 학습의 대규모 행렬 연산에 딱 맞아서 표준이 됐어요. 근데 추론은 학습보다 연산 규모가 작고 대신 지연시간(latency)과 전력 효율이 중요하거든요. 그래서 추론에 특화된 NPU가 주목받는 거예요
  • Arm 기반 CPU를 서버에 쓰는 것도 같은 맥락이에요. 전통적으로 서버 CPU는 x86(인텔/AMD) 독무대였는데, AWS Graviton이 Arm 기반으로 전력 효율을 입증하면서 판도가 바뀌고 있거든요
  • 리벨리온은 한국 AI 반도체 스타트업 중에서 가장 주목받는 곳 중 하나예요. 이번에 Arm이라는 글로벌 반도체 설계 기업과 직접 협력한다는 건 기술력을 인정받았다는 신호로 읽을 수 있어요

GPU 중심 AI 인프라에서 추론 특화 NPU로의 전환이 본격화되고 있음. 한국 AI 칩 스타트업 리벨리온이 Arm이라는 글로벌 빅네임과 직접 협력한다는 점이 의미 있음.

댓글

댓글

댓글을 불러오는 중...

ai-ml

애플 새 음성 인식 API, 온디바이스 영어 전사에서 위스퍼 스몰까지 이겼다

애플의 새 음성 인식 API인 스피치애널라이저가 리브리스피치 벤치마크에서 기존 SFSpeechRecognizer는 물론 위스퍼 스몰보다도 낮은 단어 오류율을 기록했어. 깨끗한 음성에서는 2.12%, noisy 음성에서는 4.56%로, 기존 애플 API 대비 오류율을 3.5~4배 줄였고 위스퍼 스몰보다 약 3배 빠르게 돌았어. 다만 영어·애플 플랫폼·OS 26 조건의 결과라, 다국어와 크로스플랫폼에서는 여전히 위스퍼의 장점이 남아 있어.

ai-ml

AI를 진짜 잘 쓰는 기업, 미국 증시에서 연 30% 프리미엄 받는다는 연구

예일대와 로체스터대 연구진이 기업의 실제 대형 언어 모델 사용 데이터를 분석했더니, AI 활용도가 높은 상위 20% 기업이 하위 20%보다 주당 평균 0.64% 높은 초과수익률을 냈다. 단순히 AI 기업이냐가 아니라, 업무에 AI를 얼마나 깊게 쓰는지가 시장 가치에 반영되고 있다는 얘기다.

ai-ml

ZTE, AI 에이전트폰으로 스마트폰 재도전…진짜 승부처는 앱 생태계

ZTE가 바이트댄스의 더우바오를 탑재한 AI 에이전트 스마트폰으로 시장 재진입을 노린다. 핵심은 사용자가 명령하면 AI가 여러 앱을 직접 열고 조작하는 방식인데, 위챗·타오바오·알리페이 같은 플랫폼과 충돌하면서 생태계 문제가 가장 큰 변수로 떠올랐다.

ai-ml

노벨상 학자들까지 “AI 경제 충격, 지금 제도 안 만들면 늦다”

노벨 경제학상 수상자 15명을 포함한 학자와 기술 업계 인사 약 200명이 AI가 향후 10년 안에 경제를 급격히 바꿀 수 있다며 정책 대응을 촉구했다. 이들은 산업혁명보다 큰 변화가 훨씬 짧은 시간에 올 수 있고, 대규모 일자리 대체와 생활 수준 향상이라는 양면성이 동시에 존재한다고 봤다.

ai-ml

NHN, AI 데이터센터 매출 기대감에 목표주가 5만6000원으로 상향

한국투자증권이 NHN의 목표주가를 4만5000원에서 5만6000원으로 올리고 투자의견 매수를 유지했다. 핵심 근거는 양평 AI 데이터센터 가동, 공공·민간 GPU 클러스터 수주 확대, 클라우드 사업부 신규 매출 반영이다.