[AIDC 인프라②] AI시대, 서버 생태계도 ‘수랭식’으로 물갈이

[아이티데일리] 인공지능(AI) 모델 고도화에 따른 그래픽처리장치(GPU) 수요가 늘어나면서 데이터센터의 전력 사용량이 가파르게 상승하는 추세다. 이에 전력 효율을 높이기 위한 열처리 방식으로 수랭식(액체 냉각, Liquid Cooling) 기술이 주목받고 있다.

글로벌 시장조사 기업 리서치 네스터에 따르면, 글로벌 데이터센터 액체 냉각 시장은 지난해 11억 달러를 돌파했으며, 오는 2037년에는 897억 7,000만 달러를 기록할 것으로 예상했다. 이처럼 수랭식 냉각 기술에 대한 수요가 확대되면서, 주요 서버 제조사들이 관련 아키텍처 및 제품을 출시하고 있다.

고발열, DLC 기술로 잡는다

특히 직접수랭식(DLC, Direct Liquid Cooling) 기술이 핵심 냉각 방식으로 떠오르고 있다. DLC는 칩 또는 고발열 부품에 직접 액체를 전달해 열을 제거하는 방식이다.  대표적으로 HPE가 지난해 공개한 ‘100% 팬리스 직접 수랭 방식(Fanless DLC) 시스템 아키텍처’를 꼽을 수 있다.

100% 팬리스 직접 수랭 방식은 냉각 유체를 콜드 플레이트(냉각판)를 통해 GPU, CPU, 메모리, 정류기 등으로 직접 순환시켜 공랭용 팬이 필요없다. 이를 통해 데이터센터의 팬 소음을 줄일 수 있으며 전력 비용, 탄소 배출량을 절감할 수 있다. HPE에 따르면 해당 DLC 아키텍처는 기존 공랭식 시스템에 비해 냉각 전력 소비를 90%까지 절감할 수 있다.

HPE 안토니오 네리(Antonio Neri) CEO는 “조직들이 생성형 AI의 가능성을 받아들이는 동시에, 지속가능성 목표를 달성하고, 증가하는 전력 수요에 대응하며 운영 비용을 절감해야 한다”며 “해당 아키텍처는 오로지 수랭 방식을 적용해, 시중의 대체 솔루션보다 에너지 및 비용 절감 측면에서 큰 이점을 제공한다”고 강조했다.

델 테크놀로지스(Dell Technologies)는 오랜 기간에 걸쳐 자사 제품군에 수랭식 기술을 적용해 왔으며, 현재 델 파워엣지 XE9780L, XE9785L, XE8712, M7725 등 다양한 수랭식 서버 포트폴리오를 갖추고 있다고 설명했다. 이 모델들은 ‘델 IR7000’이라는 ‘델 통합 랙 스케일러블 시스템(델 IRSS)’에 장착할 수 있다.   

델 IRSS는 사전 구성이 완료된 플러그-앤-플레이 방식의 랙 스케일 솔루션으로 서버, 네트워킹, 스토리지 등 데이터센터 인프라의 필수 장비들을 단일 랙에 통합해 구축할 수 있다. DLC  방식을 통해 서버 내부에서 CPU나 GPU에서 발산되는 열을 냉각시키는데 주력하는데, 이것으로 IT 장비들의 모든 열을 제거할 순 없다. 

이에 델은 지난 5월 ‘델 파워쿨 밀폐형 후면 도어 열 교환기(Dell PowerCool eRDHx, 이하 eRDHx)’ 솔루션을 발표했다. 해당 솔루션은 여러 대의 서버가 장착되는 랙(rack) 수준에서 발생한 IT 열을 포집해 밖으로 발산한다. 이를 통해 에너지를 많이 소모하는 냉각기(칠러)에 대한 의존도를 낮출 수 있다는 게 델의 설명이다. 또한 회사는 델 eRDHx와 델 IR7000을 결합해 배치할 수 있으며, 일반적인 솔루션에 비해 냉각 에너지 사용량을 최대 60% 줄일 수 있다고 강조했다. 

레노버(Lenovo)는 지난해 ‘넵튠(Neptune)’ 6세대를 공개했다. 레노버 넵튠은 고효율 액체 냉각 시스템으로, 전체 시스템을 따뜻한 물로 냉각해, 온수 재활용이 가능하다. 특히 모든 부품(파워 서플라이 포함)에서 발생하는 열을 제거해, 팬이 전혀 필요 없는 완전한 무팬 작동을 구현할 수 있다. 레노버는 이번 6세대의 경우 AI 및 HPC 워크로드를 지원하며, 최대 40%의 에너지 절감을 실현한다고 강조했다. 

공랭과 수랭의 공존, 유연한 AI 인프라 제시

아마존웹서비스(AWS)는 지난 15일 엔비디아 그레이스 블랙웰 슈퍼칩(NVIDIA Grace Blackwell Superchips)으로 구동되는 ‘P6e-GB200 울트라서버(P6e-GB200 UltraServers)’를 출시했다.

P6e-GB200은 새로운 기계식 냉각 솔루션을 적용한 액체 냉각 방식으로 설계됐다. 이 시스템은 신규 및 기존 데이터 센터 모두에서 칩 수준까지 냉각이 가능한 유연한 액체-칩(liquid-to-chip) 냉각 방식으로 제공된다. 이를 통해 한 시설 내에서 수랭식 가속기와 공랭식의 네트워크 및 스토리지 인프라를 함께 운영할 수 있다는 게 회사의 설명이다. 이러한 유연한 냉각 설계를 통해 AWS는 최저 비용으로 최대 성능과 효율성을 제공할 수 있다고 강조했다.