Deloitte AI 인프라 서베이 - 2028년까지 예산 3배, 토큰 소비 2배, AI 팩토리 88% 도입 전망

워크로드 복잡도와 모델 전략

• 응답자의 96%가 AI 워크로드 복잡도를 중간~높음으로 평가함
  • 그럼에도 97%는 향후 3년 내 AI 워크로드 스케일링에 자신 있다고 응답
• 모델 유형별 사용 현황
  • Closed 모델이 가장 많이 사용됨 (AI-first 리더 기업은 60~70% 수준)
  • 오픈소스/파생 모델은 저비용 실험과 혁신에 활용
  • Agentic SaaS(자율 워크플로우 실행 AI 에이전트 플랫폼)도 정착 중

토큰 소비량 폭증

• 현재 37%가 월 1~10B 토큰을 소비 중이고, 30%는 10B+ 소비 중
  • 2028년까지 61%가 월 10B 토큰 이상 소비 예상 (약 2년 내 2배)
  • 100B+ 토큰 사용자는 3배로 증가 전망
• 고급 추론 모델의 "thinking token" 생성이 소비 급증의 한 원인

AI 팩토리 및 엣지 배포

• AI 팩토리: 현재 64%가 배포 시작 → 2028년 88% 예상
  • 73%가 대규모(at-scale) 배포를 목표로 함
• Edge AI: 현재 36% 스케일링 완료 → 2028년 72% 예상
  • Cloud-managed edge가 가장 일반적(68%)
  • 별도 운영 모델 없이 엣지 이점을 얻으려는 전략

예산과 비용 압박

• 86%가 향후 3년간 AI 인프라 예산 증가를 예상함
  • 평균 3배 이상 성장, 대기업은 약 4배 전망
• HBM 등 메모리 비용 급등, 웨이퍼 비용 20% 상승 예상
  • GPU/CPU 가격도 함께 오를 것으로 전망됨
• 전력 공급: 47~48%가 그리드 + 자체 발전 + 제3자 발전의 혼합 전략을 예상

인재 갭

• 가장 부족한 인력: 보안/컴플라이언스 전문가, AI/ML ops 엔지니어, 변화관리 전문가
• IT 팀의 스케일링 역량에 대한 신뢰도 81% vs 비즈니스 팀 65% (16%p 격차)
• 향후 로보틱스 시스템 엔지니어링, 탄소/에너지 모니터링 등 스킬 수요도 증가 전망

---

기술 맥락

이 서베이는 AI 인프라 투자가 "일회성 현대화"에서 "지속적 다년간 투자"로 전환되고 있음을 보여줌. 특히 토큰 이코노믹스, TCO, 그리고 FinOps 원칙이 AI 인프라 거버넌스의 핵심이 되고 있다는 점이 주목할 만함. CTO/CIO가 AI 소비 패턴을 재무 시스템 수준으로 추적해야 한다는 제언은 엔터프라이즈 AI 운영의 성숙도를 보여주는 지표임.