젠슨 황이 말한 에이전틱 AI, 결국 한국 HBM 수요 얘기로 이어짐

• 젠슨 황 엔비디아 CEO가 “에이전틱 AI가 도착했다”고 선언함

  • 1일 대만 타이베이 뮤직센터에서 열린 GTC 타이베이 2026 기조연설에서 나온 발언임
  • 여기서 말하는 에이전틱 AI(Agentic AI)는 그냥 답변을 생성하는 AI가 아니라, 스스로 추론하고 계획을 세우고 작업을 수행하는 AI 에이전트 쪽에 가까움

• 이 얘기가 왜 반도체 뉴스로 이어지냐면, 에이전트가 많아질수록 추론 수요가 미친 듯이 늘기 때문임

  • 황 CEO는 AI가 생산성을 끌어올리면서 토큰 수요가 폭발적으로 증가하고 있다고 설명함
  • 토큰이 늘면 모델을 돌릴 AI 서버가 더 필요하고, 서버가 늘면 데이터센터와 전력, 냉각, 네트워크, 메모리까지 전부 같이 커짐

• 엔비디아는 이 수요를 받아먹기 위해 차세대 AI 플랫폼과 인프라 사업을 더 키우는 중임

  • 기사에서는 차세대 AI 플랫폼 ‘베라 루빈(Vera Rubin)’이 언급됨
  • 황 CEO가 AI 공장의 수익성, 처리량, 전력 효율성을 반복해서 강조했다는 점도 포인트임

• 여기서 한국 기업 이름이 바로 튀어나옴. AI 서버의 핵심 부품 중 하나가 고대역폭메모리(HBM)이기 때문임

  • 엔비디아 AI 가속기용 HBM 공급망에는 SK하이닉스, 삼성전자, 마이크론 등이 들어가 있음
  • 특히 SK하이닉스는 엔비디아 HBM 공급망에서 핵심 업체로 자리 잡았고, 삼성전자도 차세대 HBM 시장 공략 속도를 높이는 중임

• 숫자로 보면 한국 메모리 업체의 존재감이 꽤 압도적임

  • 카운터포인트리서치 기준 지난해 4분기 글로벌 D램 시장 매출 점유율은 삼성전자 36%, SK하이닉스 32%임
  • 둘을 합치면 68%라서, 전 세계 D램 매출의 3분의 2가량을 한국 두 회사가 가져가는 구조임

• HBM 시장에서는 쏠림이 더 심함

  • 지난해 4분기 기준 SK하이닉스가 57%로 1위, 삼성전자가 22%를 차지함
  • 두 회사 합산 점유율이 80% 수준이라, AI 인프라 확대가 한국 메모리 업계의 전략적 가치로 바로 연결됨

• 앞으로 관전 포인트는 HBM4와 HBM4E 경쟁임

  • AI 공장에서 중요한 건 단순히 GPU를 많이 꽂는 게 아니라, 처리량과 전력 효율을 얼마나 잘 뽑느냐임
  • 이때 메모리 대역폭과 전력 효율이 병목이 되기 쉬워서 차세대 HBM 성능 경쟁이 더 치열해질 수밖에 없음

• 황 CEO가 이번 주 한국 방문을 앞둔 것으로 알려진 점도 그냥 의전 뉴스로 보기 어려움

  • 국내 반도체 업계와 엔비디아의 협력 확대 여부에 관심이 쏠리는 이유가 여기에 있음
  • AI 에이전트 시대라는 말 뒤에는 결국 “누가 엔비디아에 더 좋은 메모리를 더 안정적으로 공급하느냐”라는 굉장히 현실적인 질문이 깔려 있음

---

기술 맥락

• 에이전틱 AI가 중요한 이유는 추론 요청의 성격이 달라지기 때문이에요. 예전 챗봇은 사용자가 한 번 묻고 모델이 한 번 답하는 구조가 많았는데, 에이전트는 계획을 세우고 중간 결과를 확인하고 다시 호출하는 식으로 토큰을 계속 써요.

• 그래서 엔비디아가 말하는 AI 공장은 단순한 마케팅 표현만은 아니에요. GPU 클러스터가 계속 추론을 처리하고, 그 결과물이 토큰이라는 생산물처럼 쏟아지는 구조라서 처리량과 전력 효율이 곧 비용 경쟁력이 되거든요.

• HBM이 여기서 핵심이 되는 건 대형 모델이 계산만 빠르다고 끝나지 않아서예요. 모델 파라미터와 중간 데이터를 빠르게 읽고 써야 하는데, 메모리 대역폭이 부족하면 비싼 GPU도 제대로 못 굴려요.

• 한국 기업에게 이 뉴스가 직접적인 이유도 여기에 있어요. 삼성전자와 SK하이닉스가 D램과 HBM 공급망의 큰 축을 잡고 있으니, AI 에이전트 확산은 곧 차세대 메모리 수요와 협상력 문제로 이어져요.