본문으로 건너뛰기
피드

AI 데이터센터, GPU보다 먼저 전력·냉각 인프라 속도가 병목이 됐다

devops 약 7분
vote
0
댓글
북마크

버티브 코리아는 AI 데이터센터 경쟁에서 이제 성능만큼 중요한 변수가 구축 속도라고 봤다. GPU를 확보해도 전력·냉각 인프라가 늦으면 바로 구형 인프라가 될 수 있고, 랙당 발열이 과거 1~3kW에서 현재 100~200kW 수준으로 커지면서 모듈형 인프라와 액체냉각의 중요성이 커지고 있다.

  • 1

    AI 데이터센터는 GPU 확보만으로 끝나지 않고 전력·냉각 인프라를 제때 갖추는 속도가 핵심 병목이 됨

  • 2

    랙당 발열은 1990년대 후반 1~3kW 수준에서 현재 100~200kW 수준까지 커짐

  • 3

    버티브의 냉각수 분배 장치(CDU)는 1년 만에 1350kW급에서 2300kW급으로 확대됨

  • 4

    말레이시아 조호르 생산으로 한국 고객은 CDU 납기를 1~2개월 줄일 수 있게 됨

  • 5

    차세대 GPU의 800V 직류 전원 체계에 맞춰 전력 계통과 안전 기준도 바뀌어야 한다는 지적이 나옴

AI 데이터센터의 병목이 ‘GPU 확보’에서 ‘인프라 납기’로 넘어가는 중

  • 버티브 코리아는 AI 데이터센터 경쟁에서 이제 성능보다 속도가 더 중요해졌다고 봄

    • GPU를 확보해도 전력·냉각 인프라가 늦으면 서버를 바로 못 돌림
    • AI 인프라 구축이 2~3년씩 밀리면 그 사이 새 GPU가 나오고, 기존 설비는 바로 구형 취급을 받을 수 있음
    • 그래서 파이프와 전력선을 공장에서 미리 만들고 현장에서는 조립만 하는 모듈형 방식이 해법으로 제시됨
  • 이 얘기가 현실적인 이유는 AI 서버 발열이 말 그대로 폭증했기 때문임

    • 1990년대 후반 랙당 발열은 1~3kW 수준이었음
    • 지금은 랙당 100~200kW를 이야기하는 단계까지 올라옴
    • 랙 크기는 그대로인데 전력과 냉각 설비만 계속 커지는 구조라, 기존 데이터센터 설계 감각으로는 버티기 어려움

중요

> 기사에서 제시된 발열 변화가 꽤 세다. 랙당 13kW에서 100200kW로 올라왔다는 건, AI 데이터센터가 소프트웨어 확장 문제가 아니라 전력·열 관리 문제로 바뀌었다는 뜻임.

공랭만으로는 어렵고, 수랭 비중이 계속 커진다

  • GPU는 액체냉각으로 가는 흐름이 뚜렷하지만 CPU는 여전히 공기냉각이 필요하다는 진단임

    • 즉 당장 모든 게 수랭으로 한 번에 바뀌는 게 아니라, 공랭과 수랭이 공존하는 하이브리드 구조가 현실적인 중간 단계임
    • 다만 AI 반도체 세대가 바뀔수록 발열과 전력 소비가 계속 커져서 수랭 비중은 더 커질 가능성이 높음
  • 버티브의 냉각수 분배 장치(CDU) 스펙 변화도 이 흐름을 보여줌

    • 버티브는 지난해 랙당 100kW급 구성을 겨냥해 1350kW급 CDU를 내놨음
    • 그런데 1년 만에 2300kW급으로 확대됐음
    • 냉각 장비가 이렇게 빨리 커진다는 건, AI 인프라 현장의 요구치가 그만큼 빠르게 뛰고 있다는 얘기임

조호르 공장이 한국 고객에게 주는 의미

  • 버티브가 말레이시아 조호르 공장을 연 건 한국 고객에게도 직접적인 납기 이점이 있음

    • 액체냉각 핵심 장비인 CDU는 그동안 유럽 생산 후 해상 운송을 거쳐야 해서 수개월이 걸렸음
    • 조호르 생산으로 국내 고객은 납기를 1~2개월 앞당길 수 있게 됨
    • AI 데이터센터에서는 몇 달 차이가 GPU 세대와 서비스 출시 시점에 영향을 줄 수 있어서 꽤 큰 차이임
  • 회사는 조호르 생산 제품이 단순 이전 생산이 아니라 글로벌 규격 제품이라고 강조함

    • 미국·유럽 공장과 같은 규격으로 글로벌 연구개발(R&D)을 거친 제품이라는 설명임
    • 한국 고객 입장에서는 가까운 생산 거점에서 같은 규격의 장비를 더 빨리 받는 구조가 되는 셈

한국 시장은 전력·입지·규제까지 같이 봐야 함

  • 국내에서도 AI 데이터센터 인프라 수요가 커지고 있음

    • 수도권 전력과 입지 제약 때문에 대형 데이터센터가 지방으로 이동하는 흐름이 있음
    • 이 과정에서 빠르게 구축할 수 있는 모듈형 전력·냉각 인프라 수요도 같이 늘고 있음
  • 시장 분위기도 예전과 달라졌다고 함

    • 버티브의 전신인 에머슨 네트워크 파워 시절에는 회사가 고객을 찾아다녔음
    • 지금은 고객이 먼저 인프라 공급사를 찾는 분위기라는 설명임
    • 한국 GDP가 12% 성장하는 동안 AI·데이터센터 시장은 매년 1520%씩 커지고 있다는 진단도 나옴
  • 제도 개선 이슈도 꽤 중요함

    • 엔비디아 차세대 GPU가 800V 직류(DC) 전원 체계로 바뀌는 만큼 전력 계통과 안전 기준도 맞춰야 한다는 지적임
    • 서버 제조사, 전력 벤더, 냉각 벤더가 초기 단계부터 함께 개발하고 검증해야 한다는 제안도 나옴
    • 이제 데이터센터는 장비를 따로따로 사서 붙이는 방식보다, 전력·냉각·서버를 통합 설계하는 쪽으로 가는 분위기임

기술 맥락

  • AI 데이터센터에서 모듈형 인프라가 나오는 이유는 GPU 세대 교체가 너무 빠르기 때문이에요. 현장에서 전력선과 배관을 처음부터 만들다 보면 2~3년이 지나가고, 그 사이에 새 GPU가 나오면 비싼 인프라가 시작부터 낡은 설비가 될 수 있거든요.

  • 액체냉각이 중요해지는 이유는 랙당 발열 밀도가 예전과 아예 다른 수준으로 올라갔기 때문이에요. 13kW를 다루던 시대와 100200kW를 다루는 시대는 냉각 설계가 완전히 달라질 수밖에 없어요.

  • CDU 같은 장비는 단순 부속품이 아니라 AI 서버 운영 가능 여부를 좌우하는 핵심 컴포넌트예요. 냉각수를 안정적으로 공급하지 못하면 GPU를 확보해도 지속적으로 돌릴 수 없고, 그럼 데이터센터의 실제 처리량이 떨어져요.

  • 800V 직류 전원 체계 이야기가 나오는 것도 같은 맥락이에요. GPU 전력 요구가 커지면 서버 내부만 바꾸는 게 아니라 전력 계통, 안전 기준, 벤더 간 검증 방식까지 같이 바뀌어야 해요.

  • 한국 시장에서는 수도권 전력·입지 제약 때문에 이 문제가 더 현실적이에요. 지방으로 데이터센터를 옮기더라도 전력과 냉각을 빨리 깔 수 없다면, AI 인프라 투자 속도 자체가 제한될 수 있어요.

AI 인프라 경쟁은 모델이나 GPU 스펙만 보는 단계에서 전력, 냉각, 납기, 규제까지 묶인 물리 인프라 싸움으로 내려왔다. 한국처럼 수도권 전력·입지 제약이 큰 시장에서는 ‘얼마나 빨리 지을 수 있냐’가 실제 경쟁력이 될 가능성이 크다.

댓글

댓글

댓글을 불러오는 중...

devops

동남아 데이터센터 붐, 빠른 유튜브 뒤에 물 부족이 따라왔다

구글, 마이크로소프트, 아마존웹서비스, 엔비디아 같은 빅테크가 동남아에 클라우드 리전과 인공지능 인프라 투자를 늘리고 있음. 하지만 태국 라용·촌부리, 말레이시아 조호르처럼 데이터센터가 몰리는 지역에서는 물 부족, 소음, 분진, 전력 부담이 실제 주민 갈등으로 번지고 있음.

devops

클라우드가 멈추면 앱도 AI도 같이 멈춘다, 이제 책임은 누가 질까

유럽연합이 아마존과 마이크로소프트의 클라우드를 디지털시장법상 게이트키퍼로 지정하려는 움직임을 보이고 있다. 소비자 앱뿐 아니라 그 뒤에서 서비스를 떠받치는 클라우드 인프라까지 빅테크 책임 규제의 대상으로 보겠다는 흐름이다. 한국도 B2B 클라우드와 글로벌 인프라 기업이 규제 사각지대에 남지 않도록 서비스 안정화법 개정을 추진 중이다.

devops

김포시, 2030년까지 대민 시스템 클라우드로 옮긴다

김포시가 2030년까지 대민정보시스템을 단계적으로 클라우드로 전환하는 로드맵을 다시 정비했음. 단순 서버 이전이 아니라, 법령·보안·현장 장비 연계 같은 예외 조건을 걸러내고 장기적으로 컨테이너와 마이크로서비스 구조까지 검토하겠다는 쪽에 가까움.

devops

카카오엔터프라이즈, 가천대 클라우드공학과 현장실습 마무리

카카오엔터프라이즈가 가천대 클라우드공학과 학생 대상 4개월 현장 실습을 끝냈다. 학생들은 입문 교육 뒤 클라우드 인프라, 서비스 개발, 보안 부서에 배치돼 QA, 벤치마크 테스트 자동화, 오픈소스 기여 같은 실무 프로젝트를 경험했다.

devops

우정사업본부 126억 원 DaaS 사업, NHN클라우드와 KT클라우드 2파전

공공 최대 서비스형 데스크톱(DaaS) 사업으로 꼽히는 우정사업본부 클라우드 기반 인터넷PC 구축 사업이 NHN클라우드와 KT클라우드의 경쟁으로 좁혀졌다. 최대 1만1000명이 동시에 접속하는 업무 환경을 2031년까지 구축하는 126억 원 규모 사업이다.