정부, 엔비디아에 AMD까지 붙여 AI 인프라 선택지 넓힌다

• 정부의 AI 인프라 전략이 엔비디아 GPU 확보에서 AMD와 국산 NPU까지 엮는 쪽으로 넓어지고 있음

  • 최근 정부는 AMD와 개방형 AI 컴퓨팅 생태계 구축을 위한 양해각서를 맺음
  • 핵심은 AMD CPU·GPU와 국산 신경망처리장치(NPU)를 연결해 이기종 AI 컴퓨팅 인프라를 만드는 것임

• 이건 단순히 “AMD도 사겠다” 수준의 얘기가 아님

  • 메모리, 데이터처리장치(DPU), 컴퓨트익스프레스링크(CXL), 네트워크, 서버, 오케스트레이션 소프트웨어까지 국내 기업을 끌어들이는 그림임
  • AI 인프라 경쟁이 칩 구매전에서 데이터센터 설계전으로 커지고 있다는 뜻임

• 배경에는 AI 추론 수요 폭증이 있음

  • 예전에는 대규모 모델 학습이 중심이라 고성능 GPU 확보가 제일 중요했음
  • 지금은 AI 에이전트와 기업용 생성형 AI 서비스가 늘면서 추론 비용과 효율이 더 크게 부각되는 중임
  • 그래서 GPU만 때려 넣기보다 CPU, GPU, NPU를 작업 특성에 맞게 조합하는 방식이 주목받고 있음

• 정부도 엔비디아 협력과 국산 NPU 육성을 동시에 밀고 있음

  • 올해 AI 컴퓨팅 자원 확충 사업으로 엔비디아 차세대 GPU를 대규모 확보하는 한편, 국가AI컴퓨팅센터와 국산 NPU 생태계도 같이 키우는 중임
  • 목표는 특정 반도체 하나에 묶이지 않는 AI 컴퓨팅 환경을 만드는 것임

• 민간도 비슷한 방향으로 움직이는 중임

  • 네이버는 엔비디아와 브룩필드 투자를 바탕으로 글로벌 AI 팩토리와 GPU 공급망 확보에 나섰음
  • 동시에 AMD와도 협력해 하이퍼클로바X 운영 환경에 AMD GPU를 적용하는 방안을 추진 중임
  • 업스테이지는 국가대표 AI 모델 개발 과정에서 AMD GPU와 ROCm 생태계를 활용하기로 함

• 클라우드와 IT서비스 기업들은 NPU를 상품화하는 쪽으로 가고 있음

  • 삼성SDS, LG CNS, KT클라우드는 국산 NPU 기반 서비스형 NPU(NPUaaS)와 관련 플랫폼을 내놓고 있음
  • 고객이 AI 서비스 성격에 따라 GPU와 NPU를 고를 수 있게 만들겠다는 전략임

• 이제 AI 인프라 경쟁력은 “GPU 몇 장 있냐”로 끝나지 않음

  • 데이터센터, 전력, 냉각, 네트워크, 서버, 클라우드 플랫폼, AI 운영 소프트웨어를 통합 제공할 수 있는지가 중요해짐
  • 엔비디아와 AMD가 한국에 AI 연구센터 설립 계획을 내놓은 것도 단순 판매가 아니라 연구개발, 인재 양성, 생태계 장악까지 보겠다는 움직임임

---

기술 맥락

• 이번 흐름에서 중요한 선택은 단일 GPU 중심 인프라를 이기종 컴퓨팅 구조로 넓히는 거예요. 대규모 언어 모델 학습에는 여전히 GPU가 강하지만, 기업용 서비스가 늘면 추론 비용이 계속 쌓이거든요.

• 그래서 CPU, GPU, NPU를 섞는 전략이 나와요. 모든 요청을 비싼 GPU로 처리하기보다 작업 성격에 따라 적절한 가속기를 붙이면 비용과 전력 효율을 같이 볼 수 있어요.

• AMD와 ROCm이 언급되는 이유도 여기에 있어요. 한국 기업들이 CUDA 중심 구조만 바라보면 공급망과 비용 협상에서 선택지가 좁아지거든요. AMD GPU를 실제 운영 환경에 넣어보는 건 대안 생태계를 검증하는 의미가 커요.

• CXL, DPU, 오케스트레이션 소프트웨어가 같이 등장한 것도 꽤 중요해요. AI 인프라는 칩만 꽂는다고 끝나는 게 아니라 메모리, 네트워크, 스케줄링, 운영 자동화가 같이 맞아야 성능이 나오거든요.