랙 스케일 플러그 앤 플레이 액침 냉각식 서버…엔비디아 NIM 마이크로서비스 탑재
[아이티데일리] 슈퍼마이크로컴퓨터(Super Micro Computer, 이하 슈퍼마이크로)는 생성형 인공지능(AI) 개발·구축을 지원하는 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼 최적화 ‘슈퍼클러스터’를 공개했다고 11일 밝혔다.
이번에 공개된 슈퍼마이크로 슈퍼클러스터는 생성형 AI 채택을 가속화하는 클라우드 네이티브 솔루션을 위해 설계된 R2D(ready to deploy) 액침 냉각식 AI 데이터센터에서 사용된다. 특히 엔비디아에서 최근 선보인 블랙웰 GPU에 슈퍼마이크로의 4U 수냉식 냉각 서버가 탑재돼 단일 GPU에서 20페타플롭스(PF)의 AI 성능 구현을 지원한다. 또한 기존 GPU 대비 4배 강력한 AI 훈련 및 30배 강력한 추론 성능을 자랑하며, 추가적인 비용 절감 효과를 가져온다는 게 회사 측 설명이다.
슈퍼마이크로 찰스 리앙(Charles Liang) CEO는 “슈퍼마이크로는 랙 스케일 액침 냉각식 AI 솔루션을 개발·구축하며 지속적으로 업계를 선도하고 있다”며 “수냉식 냉각 데이터선터는 전력 사용량 감축을 통해 사실상 무상으로 제공되며, 이는 고객에게 추가적인 가치를 제공할 수 있다. 슈퍼마이크로의 솔루션은 다양한 산업군의 고객을 위해 엔비디아 AI 엔터프라이즈 소프트웨어에 최적화됐다”고 설명했다.
이어 “당사는 세계 최고 수준의 효율성과 함께 글로벌 제조 역량을 갖췄다. 그 결과 엔비디아 HGX H100 및 H200은 물론, 새로 출시된 B100, B200, 그리고 GB200에 수냉식 또는 공냉식 냉각 턴키 클러스터를 배포하는 시간을 단축할 수 있다. 냉각판부터 CPU와 냉각탑에 이르기까지 슈퍼마이크로의 랙 스케일 종합 액체 냉각 솔루션은 데이터센터에서 사용하고 있는 전력량을 최대 40%까지 줄일 수 있다”고 덧붙였다.
앞서 슈퍼마이크로는 시장 선점을 위해 엔비디아 블랙웰 아키텍처를 기반으로 한 HGX B100, B200, GB200 그레이스 블랙웰 슈퍼칩용 신규 제품군을 선보인 바 있다. 최근 ‘컴퓨텍스 2024(COMPUTEX 2024)‘에 참가해 출시 예정인 엔비디아 블랙웰 GPU 최적화 서버를 공개했으며, 여기에는 엔비디아 HGX B200 기반의 10U 공냉식 및 4U 수냉식 냉각 서버가 포함됐다.
아울러 슈퍼마이크로는 △8U 공냉식 엔비디아 HGX B100 시스템 △엔비디아 NV링크 스위치와 상호 연결된 GPU 72개를 탑재한 GB200 NVL72 랙 △엔비디아 H200 NVL PCLe GOU 및 GB200 NVL2 아키텍처를 지원하는 신규 엔비디아 MGX 시스템을 제공할 예정이다.
엔비디아 젠슨 황(Jensen Huang) CEO는 “생성형 AI가 모든 컴퓨팅 스택의 재설정을 주도하고 있는 가운데, 새로운 데이터센터는 GPU 가속화로 AI에 최적화될 것이다”라며 “슈퍼마이크로는 최첨단 엔비디아 가속 컴퓨팅 및 네트워킹 솔루션을 설계하고, 수조 달러 규모의 글로벌 데이터센터가 AI 시대에 최적화될 수 있도록 지원한다”고 설명했다.
더불어 슈퍼마이크로 슈퍼클러스터는 엔드투엔드 생성형 AI 커스터마이징을 위해 엔비디아 NIM 마이크로서비스 및 엔비디아 NeMo 플랫폼 등 엔비디아 AI 엔터프라이즈를 탑재했다. 또한 400Gb/s의 네트워킹 속도로 수십만 개의 GPU가 있는 대규모 클러스터까지 확장 가능하며, 엔비디아 퀀텀-2 인피니밴드 및 신규 엔비디아 스펙트럼-X 이더넷 플랫폼에 최적화됐다.
슈퍼마이크로는 엔비디아와의 긴밀한 협업을 통해 파일럿 AI 애플리케이션에서 양산형 배포 및 대규모 데이터센터 AI로의 원활한 전환을 지원한다는 방침이다.


