AI 데이터센터의 서버 랙당 전력 밀도가 빠르게 높아지면서 기존 공랭 중심의 냉각 방식이 한계에 직면하고 있다는 분석이 나왔다. 고성능 GPU에서 발생하는 열을 공기로 식히는 기존 방식에서 벗어나 칩에 냉각수를 직접 공급하는 DTC(Direct-to-Chip) 등 액체냉각 기술로 전환해야 한다는 것이다.

한국미래기술교육연구원은 28일 서울 여의도 FKI 컨퍼런스센터에서 ‘AI 데이터센터 고밀도 랙 대응을 위한 냉각 기술 실무 교육’을 개최했다. 이날 문강석 LG전자 책임연구원은 데이터센터 열관리와 공랭 시스템의 한계, DTC와 액침냉각 등 액체냉각 기술을 소개했다.

문 책임연구원은 공랭 방식으로 대응할 수 있는 전력 밀도의 한계점을 랙당 약 30kW 수준으로 제시했다. 업계에 따라 15~50kW까지 기준이 다르게 제시되고 있지만 통상 30kW까지는 공랭으로 대응할 수 있고 이를 넘어서면 냉각에 어려움이 커진다는 설명이다.

AI 서버에 탑재되는 GPU의 발열량이 증가하는 동시에 하나의 랙에 장착되는 서버 수도 늘어나면서 냉각해야 할 열 자체가 빠르게 증가하고 있기 때문이다. 공랭은 차가운 공기를 서버에 공급하고 뜨거워진 공기를 다시 식혀 순환시키는 구조다. 서버 배치와 기류에 따라 냉각 효율이 달라지고 특정 영역에 열이 집중되는 현상이 발생할 가능성도 있다.

공랭의 에너지 효율도 문제로 지목됐다. 문 책임연구원은 데이터센터에 투입되는 전체 전력 가운데 상당 부분이 냉각 등 열을 처리하는 데 사용된다고 설명했다. 데이터센터의 전력사용효율(PUE)을 낮추기 위해서라도 냉각 효율 개선이 중요하다는 것이다.

이어 공랭 시스템을 유지하면서 효율을 높이는 방법을 제시했다. 차가운 공기와 뜨거운 공기가 섞이지 않도록 공간을 분리하거나 빈 랙 공간을 막아 불필요한 공기 흐름을 줄이는 방식이다. 기류 설계를 최적화해 팬 속도를 낮출 경우 소비전력도 크게 줄일 수 있다는 설명이다. 문 책임연구원은 이론적으로 팬 속도를 20% 줄이면 소비전력을 약 50% 낮출 수 있다고 설명했다.

하지만 GPU의 전력 밀도가 계속 높아질 경우 공랭 최적화만으로 대응하는 데는 한계가 있다는 게 문 책임연구원의 설명이다. 이에 따라 열이 발생하는 칩에 보다 가까이 접근해 열을 제거하는 액체냉각 기술이 대안으로 떠오르고 있다.

대표적인 방식이 DTC다. GPU 위에 콜드플레이트를 장착하고 내부로 냉각수를 순환시켜 칩에서 발생한 열을 직접 가져가는 구조다. 냉각수를 분배하는 CDU(Coolant Distribution Unit)를 통해 냉각수를 콜드플레이트로 공급하고 열을 흡수한 냉각수를 다시 회수해 순환시키는 방식이다.

문 책임연구원은 현재 DTC가 액체냉각 시장에서 가장 현실적인 기술로 자리 잡고 있다고 평가했다. 액침냉각까지 곧바로 전환하기보다는 기존 데이터센터 인프라를 일정 부분 활용하면서 냉각 효율을 높일 수 있다는 점에서 DTC 도입이 우선적으로 추진되고 있다는 설명이다.

다만 액체냉각이 곧바로 기존 공랭을 대체하기는 쉽지 않을 전망이다. 기존 데이터센터에 DTC를 적용하려면 CDU 등 기존에 없던 장비를 새로 구축해야 해 초기 투자비가 늘어난다. 이 때문에 현재는 기존 공랭을 유지하면서 랙 후면에 열교환기를 설치하는 RDHx(Rear Door Heat Exchanger) 등을 적용하는 과도기적 방식도 검토되고 있다.

특히 액체냉각 시스템을 장기간 운영한 데이터가 충분하지 않다는 점도 과제로 꼽힌다. 냉각수를 지속적으로 순환시킬 경우 오염이나 유지보수 주기를 어떻게 설정해야 하는지 등에 대한 장기간 실증 데이터가 아직 부족하다는 것이다.

문 책임연구원은 실제 GPU 서버가 고가인 데다 확보도 쉽지 않아 실제 장비를 활용한 장기간 실증에도 현실적인 제약이 있다고 설명했다. 이에 따라 GPU와 동일한 수준의 열을 발생시키는 모사 장치를 활용해 냉각 시스템을 시험하는 경우가 많다는 설명이다. 문 책임연구원은 "실질적으로 그런 데이터들을 만들어 놓기가 어렵고 장기간 신뢰성 데이터를 만들어 놓기가 쉽지 않다"며 "현재 액체냉각 시장은 지금이 초창기라고 생각한다”고 평가했다.