AI 데이터센터 전력, GPU가 아니라 변압기와 배관에서 병목이 난다

AI 데이터센터 관련 뉴스는 대체로 GPU 출하량과 빅테크의 투자 규모로 요약된다. 엔비디아의 분기 데이터센터 매출이 356억 달러를 기록했고, 마이크로소프트는 분기 CAPEX가 350억 달러 안팎이라는 식이다. 그런데 현장에서 서버 반입 일정을 결정하는 것은 GPU 납기가 아니다. 변전소 인입 용량, 변압기와 스위치기어 납기, 랙 한 대당 뽑아낼 수 있는 열량이 먼저 정해지고, 그 뒤에 서버가 들어온다.

배경: 왜 중요한가

IEA는 2022년 전 세계 데이터센터 전력 소비를 약 460TWh로 추정했고, 2026년에는 1,000TWh를 넘을 수 있다고 봤다. 별도 보고서인 'Energy and AI'의 기본 시나리오에서는 2030년 소비량을 약 945TWh로 잡는다. 이 수치가 전 세계 전력 소비의 3% 미만이라는 점도 함께 적어 두는 것이 공정하다. 총량으로 보면 아직 작다. 문제는 총량이 아니라 밀도와 속도다. 수요가 특정 지역, 특정 변전소, 특정 3~4년 안에 몰린다.

CBRE는 전력 용량 제약이 선임대(준공 전 계약)를 부추기고 신규 공급 리드타임을 2027년 이후로 밀어내는 핵심 요인이라고 밝혔다. 마이크로소프트가 지난 12개월 동안 2GW 이상을 새로 추가했다는 공시도 같은 맥락이다. GW 단위 용량은 서버 구매로 만들어지지 않는다. 계통 접속 심사, 부지, 인허가, 장주기 전력구매계약(PPA)이 한 묶음으로 확보되어야 한다.

한 가지 더 눌러 볼 숫자는 PUE다. PUE(Power Usage Effectiveness)는 시설 전체 전력을 IT 장비 전력으로 나눈 값으로, 1.0에 가까울수록 냉각과 배전 손실이 적다. Uptime Institute 조사에서 가중 평균 PUE는 1.5 수준에서 수년간 거의 움직이지 않았다. 신축 시설은 1.2 안팎까지 내려가지만, 기존 시설의 관성이 평균을 붙잡고 있다는 뜻이다. AI 데이터센터 전력 논의에서 "효율이 좋아지면 해결된다"는 기대가 잘 맞지 않는 이유가 여기 있다.

핵심: 일반 기사가 놓치는 지점

기사는 수요를 GPU 대수로 세고, 현장은 수요를 MW와 kW/rack으로 환산한다. 이 환산 과정에서 어디가 막히는지가 실제 일정과 단가를 결정한다.

세부 포인트 1: 랙 밀도가 올라가면 공기가 먼저 한계에 닿는다

전통적인 서버 랙은 5~10kW 수준으로 설계됐다. 공개된 사양 기준으로 최신 AI 가속기 한 개의 열설계전력(TDP)은 700W에서 1,000W를 넘고, 이런 가속기 수십 개를 묶은 AI 랙은 100kW를 넘는 구성이 공개돼 있다. 공랭이 실질적으로 버티는 범위는 열복도 격리(Hot Aisle Containment)를 잘 해도 대체로 랙당 20~30kW 안팎으로 알려져 있다. 공기의 비열과 밀도가 낮아서, 같은 열을 빼내려면 풍량을 키워야 하고 풍량을 키우면 팬 전력과 소음, 압력 손실이 함께 올라가기 때문이다.

그래서 후면 도어 열교환기(Rear Door HX)로 한 단계 버티고, 그 위로는 칩에 냉각판을 붙여 물을 직접 흘리는 직접 액체 냉각(DLC)으로 넘어간다. 여기서 운영 모델이 바뀐다. 냉각수 온도는 ASHRAE TC 9.9의 액체 냉각 등급(W32, W40 등 공급수 온도 기준)에 맞춰야 하고, 수질 관리, 누수 감지, 냉각수 분배 유닛(CDU) 이중화, 배관 작업 자격을 갖춘 인력이 새로 필요하다. 마이크로소프트가 모든 Azure 리전에서 액체 냉각을 지원한다고 밝힌 것은 기술 과시가 아니라 시설 표준을 바꿨다는 선언이다. 어려운 점은 명확하다. 기존 공랭 시설에 DLC를 얹으면 바닥 하중, 배관 경로, 정비 동선이 원래 설계와 충돌한다. 신축은 가능하지만 개조는 비용 대비 효과가 잘 안 나온다.

세부 포인트 2: 문제는 평균 부하가 아니라 변동이다

학습 워크로드는 수천 개 가속기가 같은 박자로 계산하고, 같은 박자로 결과를 주고받는다. 계산 구간에서는 전력이 정점으로 올라가고 통신 구간에서는 급격히 내려간다. Uptime Institute가 대형 AI 컴퓨팅의 전력 변동(스파이크)을 별도 설계 항목으로 다루는 이유다. 수십 MW 부하가 초 단위로 오르내리면 UPS의 배터리 응답, 발전기 연동, 계통 측 전압 품질에 부담이 간다. 냉각도 마찬가지다. 부하가 뛰는 속도에 냉각수 유량과 온도 제어가 따라가지 못하면 칩 온도가 순간적으로 상한을 치고 클럭이 내려간다.

추론 워크로드는 반대로 서비스 트래픽을 따라 부하가 움직인다. 평균은 낮지만 예측이 어렵다. 같은 AI 데이터센터라도 학습 중심인지 추론 중심인지에 따라 배전 여유율과 냉각 설계 기준이 달라지고, 자체 구축과 코로케이션 중 어느 쪽이 맞는지도 갈린다. 변동 부하를 흡수하기 위한 완충 장치(예: 배터리 기반 완충, 소프트웨어 측 부하 평탄화)가 논의되지만, 어느 방식이 표준이 될지는 공개된 자료로는 아직 확인되지 않는다.

그래서 뭘 봐야 하나

첫째, 장비 납기의 위치가 바뀌었다. 서버보다 변압기, 스위치기어, 냉각 장비, 그리고 이를 시공할 전기·배관 인력이 더 긴 리드타임을 갖는다는 지적이 CBRE와 업계 보도에서 반복된다. 대형 변압기 납기가 수년 단위로 늘어났다는 보도가 있지만, 지역과 사양별 편차가 커서 하나의 숫자로 단정하기는 어렵다. 이 구간에 있는 전력기기와 냉각 장비 공급망이 AI 데이터센터 전력 확보 경쟁의 직접 수혜 후보라는 관점은 타당하다. 다만 수요 전망의 폭이 넓다는 점을 같이 봐야 한다. 2030년 전망치가 IEA의 945TWh부터 맥킨지의 1,400TWh까지 벌어져 있고, WRI는 예측 정확도보다 공급 속도가 진짜 쟁점이라고 정리했다. 전망 상단을 가정한 설비 투자는 하단이 현실화될 때 가동률 문제로 돌아온다.

둘째, CAPEX가 매출로 바뀌는 속도다. 분기 350억 달러 규모 투자가 계속되는 동안 시장은 가동률, 고객 확보, 단가를 동시에 본다. 전력이 확보되지 않은 부지에 선투자한 자산은 서버가 들어오기 전까지 수익 없이 감가상각만 발생한다. 선임대가 늘어난다는 것은 공급이 부족하다는 신호이면서, 동시에 준공 지연 리스크를 임차인이 함께 떠안는 구조라는 뜻이다.

셋째, 효율 지표의 실질이다. PUE 1.5 평균이 수년간 정체됐다는 사실은 신규 고밀도 시설이 아무리 효율적이어도 전체 그림을 빠르게 바꾸지 못함을 보여준다. 액체 냉각은 팬 전력을 줄여 PUE를 낮추지만, 물 사용 효율(WUE)과 열 회수 온도라는 새 기준이 따라온다. 40℃ 안팎의 배출 열은 지역난방에 쓸 수 있는 온도로는 낮은 편이어서, 열 회수가 계획대로 되지 않은 사례도 유럽에서 보고된다.

AI 데이터센터 전력 문제는 GPU를 몇 대 사느냐가 아니라, 그 GPU가 뽑아내는 전력과 열을 어느 부지에서 언제 받아낼 수 있느냐로 정리된다. 병목은 반도체 바깥, 변압기와 배관과 계통 접속 심사에 있다. 투자 관점에서도 수요의 크기보다 공급 측 병목이 어디서 얼마나 오래 유지되는지를 보는 쪽이 현실에 가깝다.