구글, TPU를 고객 데이터센터에 직접 판다…엔비디아 독주 흔들 변수 될까

구글 TPU가 클라우드 밖으로 나옴

• 구글이 자체 AI 가속기 텐서처리장치(TPU)를 외부 고객 데이터센터에 직접 납품하기로 했음

  • 2015년부터 내부 데이터센터에서 TPU를 써왔고, 2018년부터는 구글 클라우드 임대 방식으로 외부 제공을 시작했음
  • 이번에는 임대가 아니라 물리적 납품이라는 점이 다름
  • 순다르 피차이 알파벳·구글 CEO는 AI 연구소, 자본시장 기업, 고성능 컴퓨팅(HPC) 분야에서 TPU 수요가 크게 늘고 있다고 말함

• 구글 입장에서는 TPU 직판이 단순 부업이 아니라 차세대 칩 개발비를 벌어오는 구조가 될 수 있음

  • 피차이는 TPU 판매가 차세대 실리콘 연구·개발 자금 마련과 규모의 경제에 기여할 것이라고 봄
  • 알파벳 CFO 애나트 아슈케나지는 올해 일부 수익이 생기고, 본격적인 실적 기여는 내년부터 나올 것이라고 전망함
  • 다만 TPU 판매 수익은 출하 시점에 따라 분기별로 출렁일 수 있다고 덧붙임

AI 인프라 수요가 공급을 앞지르는 중

• TPU 직판 발표는 구글 클라우드 호실적과 같이 나왔음

  • 구글 클라우드 1분기 매출은 200억 달러, 우리 돈 약 29조7000억 원 규모임
  • 수주잔고는 4620억 달러, 약 687조 원까지 늘었음
  • 피차이는 인프라 구축 속도가 수요를 못 따라가서 클라우드 매출이 더 높을 수도 있었다고 말함

• 알파벳 전체 투자도 AI 인프라에 쏠려 있음

  • 1분기 설비투자는 357억 달러, 약 53조 원으로 대부분 AI 인프라에 들어감
  • 연간 설비투자 전망치는 1800억1900억 달러, 약 267조7000억282조5000억 원으로 올라감
  • 이 정도면 “칩을 더 팔겠다”보다 “AI 인프라 공급망을 직접 장악하겠다”에 가까운 흐름임

• 알려진 TPU 고객 라인업도 만만치 않음

  • 앤트로픽, 메타, 씽킹 머신스 랩, 허드슨 리버 트레이딩, 보스턴 다이내믹스 등이 TPU 채택 고객으로 거론됨
  • 앤트로픽은 지난해 10월 TPU 100만 장으로 1기가와트급 인프라를 구축하는 계약을 공식화했음
  • 메타도 수십억 달러 규모 TPU 공급 계약을 체결한 것으로 알려짐

엔비디아와 정면승부일까, 보완재일까

• 구글은 최근 구글 클라우드 넥스트 2026에서 8세대 TPU 2종도 공개했음

  • 학습용 TPU 8t는 이전 세대 대비 같은 가격에 2.8배 처리 성능을 제공한다고 함
  • 추론용 TPU 8i는 가격 대비 성능이 전 세대보다 80% 향상됐다고 설명함
  • 구글은 엔비디아 그래픽처리장치(GPU), 자체 중앙처리장치 액시온까지 포함해 다양한 컴퓨팅 옵션을 제공하겠다는 포지션임

• 시장 평가는 갈림

  • J.골드 앤드 어소시에이츠의 잭 골드는 TPU는 추론 워크로드, 엔비디아 GPU는 대규모 거대언어모델(LLM) 학습에 각각 강점이 있어 경쟁보다 보완에 가깝다고 봄
  • 포레스터리서치의 알빈 응우옌은 칩 판매를 뒷받침할 인프라와 역량에서 인텔·AMD·엔비디아가 구글보다 앞서 있다고 평가함
  • 반대로 D.A. 데이비드슨의 길 루리아는 구글이 장기적으로 AI 칩 시장의 20%를 가져갈 수 있고, TPU 사업 가치가 최대 9000억 달러에 이를 수 있다고 전망함

• 엔비디아의 진짜 방어막은 칩만이 아니라 쿠다(CUDA) 생태계임

  • IDC의 브랜든 호프는 자체 추론 모델을 개발하는 기업들이 엔비디아 소프트웨어 플랫폼 CUDA에 사실상 묶여 있어 TPU 전환을 주저할 수 있다고 지적함
  • TPU가 성능이나 가격에서 좋아도, 기존 학습·추론 파이프라인을 옮기는 비용이 작지 않다는 얘기임
  • 결국 TPU 직판은 엔비디아 독주를 당장 끝내기보다, 대형 고객에게 협상 카드와 대체 경로를 만들어주는 사건에 가까움

---

기술 맥락

• 구글이 TPU를 직접 판매하려는 이유는 AI 인프라 수요가 클라우드 임대 모델만으로 감당하기 어려울 만큼 커졌기 때문이에요. 대형 AI 연구소나 자본시장 기업은 필요한 칩 규모가 워낙 커서, 자기 데이터센터에 직접 장비를 들이는 게 더 맞을 수 있거든요.

• TPU가 엔비디아 GPU를 바로 대체하긴 어려워요. 성능도 중요하지만, 기업의 학습 코드, 추론 서빙, 운영 자동화가 CUDA와 엔비디아 생태계에 묶여 있으면 전환 비용이 크게 생겨요.

• 그래도 TPU 직판은 의미가 커요. 구글 클라우드 안에서만 쓰던 옵션이 물리 인프라 구매 선택지로 바뀌면, 대형 고객은 엔비디아 외의 공급선을 확보할 수 있고 가격 협상력도 생겨요.

• 8세대 TPU의 성능 수치도 구글이 어디를 보는지 보여줘요. 학습용 8t는 같은 가격에 2.8배 처리 성능, 추론용 8i는 가격 대비 성능 80% 향상을 내세우는데, 특히 추론 비용이 폭증하는 시점이라 이 메시지가 꽤 직접적이에요.