구글·AWS, 엔비디아식으로 AI 칩 팔기 시작했다

• 구글과 AWS가 이제 자체 AI 칩을 내부 클라우드용 부품이 아니라, 외부에 파는 상품으로 밀기 시작함

  • 구글은 TPU(Tensor Processing Unit)를 자사 서비스와 구글 클라우드 안에서만 쓰는 단계를 넘어, 클라우드 밖 인프라 운영사에도 판매하겠다고 나선 상태임
  • AWS도 자체 AI 칩 트레이니움(Trainium)을 외부 기업에 판매하는 방안을 논의 중임

• 구글은 엔비디아가 GPU 수요를 키울 때 쓰던 방식까지 따라가고 있음. 그냥 칩만 파는 게 아니라 돈줄까지 붙이는 식임

  • WSJ 보도에 따르면 구글은 뉴욕주 서부의 AI 데이터센터 클러스터 ‘레이크 매리너’ 프로젝트에 32억달러 규모 금융 보증을 제공한 것으로 알려짐
  • 이 프로젝트 개발사들은 수천 개 규모의 구글 TPU 기반 컴퓨팅 파워를 앤트로픽에 제공할 예정임
  • 금융 지원을 끼워 넣어 칩 수요를 만드는 방식은 엔비디아가 GPU 시장에서 종종 써온 전술임

• 구글은 블랙스톤과 TPU 기반 AI 클라우드 합작법인도 만들고 있음

  • 구글은 합작법인에 TPU를 포함한 하드웨어, 소프트웨어, 서비스를 공급함
  • 4월에는 AI 추론에 특화한 새 프로세서도 공개함
  • 이미 앤트로픽, 메타와도 대규모 TPU 제공 계약을 맺은 상태임

• 이 흐름의 배경에는 엔비디아 GPU 공급 부족과 묘한 권력 구도가 있음

  • AI 업계에서는 엔비디아 GPU 물량 배정에서 밀릴까 봐 엔비디아 눈치를 본다는 얘기가 나옴
  • 베세머 벤처 파트너스의 아담 피셔는 일부 신생 클라우드 업체들이 엔비디아 풀스택 하드웨어에서 벗어나지 못하는 상황을 ‘젠슨 감옥(Jensen jail)’이라고 표현함
  • 컴퓨팅 자원이 너무 부족하다 보니, 블랙스톤 같은 대형 자본도 구글과 손잡는 쪽으로 움직이고 있음

• AWS도 가만히 있지 않음. 앤디 재시 CEO는 이미 트레이니움 칩 수요가 매우 높다고 공개적으로 말함

  • 4월 주주 서한에서 재시는 칩 사업이 독립 사업체로 AWS와 외부 업체에 칩을 판다면 연 매출 약 500억달러 규모가 될 수 있다고 언급함
  • 이 숫자는 엔비디아에는 못 미치지만, 인텔 연간 매출과 맞먹는 수준임
  • 즉 AWS 입장에서도 자체 칩은 비용 절감용 내부 부품이 아니라 별도 거대 사업이 될 수 있음

• 개발자와 인프라 팀 입장에선 앞으로 선택지가 더 복잡해질 가능성이 큼

  • 지금까지는 “엔비디아 GPU를 얼마나 확보하느냐”가 핵심이었다면, 앞으로는 TPU·Trainium 같은 전용 가속기의 가격, 성능, 프레임워크 호환성, 클라우드 락인까지 같이 봐야 함
  • 특히 추론 비용이 중요한 서비스라면 GPU 일변도에서 벗어난 클라우드별 가속기 벤치마크가 더 중요해질 수 있음

---

기술 맥락

• 구글과 AWS가 자체 AI 칩을 외부 판매로 돌리는 이유는 단순히 칩을 더 팔고 싶어서만은 아니에요. 생성형 AI 수요가 폭발하면서 GPU 공급이 병목이 됐고, 클라우드 사업자 입장에선 엔비디아 의존도를 낮춰야 가격과 공급을 통제할 수 있거든요.

• TPU와 Trainium은 둘 다 AI 연산에 특화된 가속기지만, 고객 입장에서는 성능만 보면 끝이 아니에요. 모델이 어떤 프레임워크에서 잘 도는지, 기존 학습·추론 파이프라인을 얼마나 고쳐야 하는지, 특정 클라우드에 얼마나 묶이는지도 같이 봐야 해요.

• 구글이 금융 보증과 데이터센터 합작까지 붙이는 건 칩 경쟁이 하드웨어 스펙 싸움만으로 끝나지 않는다는 뜻이에요. AI 인프라는 칩, 전력, 부지, 자본, 고객 계약이 한 번에 묶여야 돌아가니까요.

• 한국 기업이 자체 AI 서비스를 운영하려면 앞으로 GPU 인스턴스 가격만 볼 게 아니라 대체 가속기 옵션도 테스트해볼 필요가 있어요. 특히 추론 트래픽이 큰 서비스는 작은 단가 차이가 월 비용에서 꽤 크게 튀어나오거든요.