AI 인프라 수요가 급증하면서 데이터센터 운영자들이 공통적으로 마주치는 문제가 있습니다. 기존 냉각 설비로는 GPU 서버의 열을 감당하기 어렵다는 것입니다.
단순히 냉각 용량을 늘리면 해결될 것 같지만, 문제는 그보다 복잡합니다. AI 워크로드는 발열 규모뿐 아니라 열이 발생하는 방식 자체가 기존 서버와 다릅니다.
핵심 요약
- GPU 서버는 1개당 최대 700W 열을 발생시켜, 기존 CPU 서버 대비 발열 밀도가 수배 높습니다.
- AI 워크로드가 집중된 랙은 20~50kW에 달해, 기존 냉각 설계 기준(5~10kW/랙)을 크게 벗어납니다.
- 기존 데이터센터에 GPU 서버를 도입하면 기류 불균형과 핫스팟이 발생할 가능성이 높습니다.
- 물리적 변경 전에 시뮬레이션으로 기류와 온도 분포를 검증하면 위험을 줄일 수 있습니다.
GPU 서버는 얼마나 많은 열을 내는가
일반 데이터센터 CPU 서버는 개당 150~350W 수준의 열을 발생시킵니다. GPU는 다릅니다. NVIDIA H100, A100 같은 데이터센터용 GPU 하나의 TDP(열설계전력)는 350~700W입니다.
GPU를 탑재한 2U 서버 기준으로 전체 전력 소비는 이렇게 달라집니다.
| 서버 유형 | 최대 전력 소비 |
|---|---|
| 일반 2U 서버 (CPU 전용) | 500~800W |
| GPU 탑재 2U 서버 | 1,000~2,500W |
랙 단위로 보면 차이는 더 커집니다. 일반 서버 랙은 5~10kW 수준이지만, AI·GPU 중심 랙은 20~50kW를 초과합니다. 같은 공간에서 5~10배 많은 열이 발생합니다.
기존 냉각 설계가 맞지 않는 이유
데이터센터 냉각 설계는 랙 당 전력 밀도를 기준으로 합니다. 일반 서버 시대에 설계된 냉각 시스템은 5~10kW/랙 수준을 전제로 합니다.
GPU 서버가 들어오면 이 전제가 무너집니다. 문제는 세 가지로 나타납니다.
1. 서버 흡기 온도 관리가 어려워진다
일반 서버의 입구-출구 온도차(ΔT)는 약 12°C입니다. GPU 서버는 15~20°C까지 올라갑니다. 냉각 공기가 서버를 통과하면서 훨씬 빠르게 뜨거워진다는 의미입니다.
ASHRAE 기준 콜드 아일 입구 온도를 22°C로 유지할 때, GPU 서버 배기는 37~42°C에 달합니다. 핫 아일 온도가 치솟고, 인근 랙의 흡기 온도에도 영향을 줍니다.
2. 필요 풍량이 급격히 늘어난다
10kW 랙을 냉각하는 데 필요한 풍량은 약 1,167 CFM입니다. 30kW 랙이라면 3,500 CFM 이상이 필요합니다. 기존 냉각 장비의 공급 풍량이 이를 따라가지 못하면 서버 흡기 온도가 상승합니다.
고밀도 랙 하나가 생기면 인근 랙으로 가야 할 냉기를 빼앗아 가는 현상도 발생합니다.
3. 기류 불균형과 핫스팟이 생긴다
발열량이 고르지 않으면 기류가 균형을 잃습니다. AI 서버가 집중된 구역은 냉기 수요가 폭증하고, 주변 구역은 상대적으로 냉기가 남거나 기류 데드존이 생깁니다.
기존 냉각 설계에서 문제없던 레이아웃이 GPU 서버 도입 이후 핫스팟을 만들어내는 경우가 많습니다. 냉각 설비는 그대로인데 특정 구역만 과열되는 이유가 여기에 있습니다.
기존 데이터센터에 GPU 서버를 도입할 때 확인해야 할 것
GPU 서버를 기존 공간에 도입하려면 세 가지를 먼저 검토해야 합니다.
냉각 용량 재산정: 기존 CRAH/CRAC 장비가 증가한 발열량을 처리할 수 있는지 확인해야 합니다. 랙 밀도가 기존 설계 기준을 넘어서면 냉각 용량을 늘리거나 배치를 조정해야 합니다.
레이아웃 재검토: GPU 서버를 어느 위치에 배치하느냐에 따라 기류 분포가 크게 달라집니다. 고밀도 랙을 냉각 장비 바로 앞에 배치하는 것과 뒤쪽에 배치하는 것은 결과가 다릅니다.
팬 제어 파라미터 재조정: GPU 서버의 부하 변동은 CPU 서버보다 급격합니다. AI 추론 요청이 몰리면 순간적으로 발열이 치솟습니다. 팬 PID 파라미터가 이 변동 속도에 맞지 않으면 냉각 응답이 늦어져 과열로 이어집니다.
ALPACA로 AI 데이터센터 냉각을 사전 검증하는 방법
GPU 서버 도입 전에 시뮬레이션으로 기류와 온도 분포를 먼저 확인하면 실제 장애 위험을 줄일 수 있습니다.
- GPU 랙 배치 시나리오 비교: 고밀도 랙 위치를 바꿨을 때 온도 분포가 어떻게 달라지는지 즉시 확인
- 냉각 용량 부족 구역 파악: 현재 냉각 설비로 처리 가능한 최대 밀도를 시뮬레이션으로 산정
- 부하 급증 시나리오 테스트: AI 추론 요청 급증 시 팬 응답과 온도 변화를 사전에 검증
- 레이아웃 변경 즉시 반영: 랙 이동, 격벽 추가 등을 재메싱 없이 바로 시뮬레이션
물리적 변경이나 GPU 서버 도입 전에 시뮬레이션으로 먼저 확인하면 예상치 못한 과열 상황을 방지할 수 있습니다.
ALPACA로 AI 데이터센터 냉각을 검토하고 싶다면, 제품 소개와 도입 문의를 확인해보세요.