HPE, AMD 기반 신규 서버 ‘HPE 프로라이언트 컴퓨트 XD685’ 출시

[아이티데일리] HPE는 5세대 AMD 에픽(EPYC) 프로세서와 AMD 인스팅트(Instinct) MI325X 가속기를 탑재한 복합 인공지능(AI) 모델 학습용 ‘HPE 프로라이언트 컴퓨트 XD685(HPE ProLiant Compute XD685)’ 서버를 출시했다고 16일 밝혔다.

새롭게 출시된 HPE 프로라이언트 컴퓨트 XD685는 거대언어모델(LLM) 학습, 자연어 처리 및 멀티모달 학습을 위한 고성능의 에너지 효율적 AI 클러스터를 신속하게 배포할 수 있도록 지원한다.

HPE의 트리시 댐크로거(Trish Damkroger) HPC 및 AI 인프라 솔루션 부문 수석 부사장은 “대규모 언어 모델을 효율적으로 학습하려면 뛰어난 확장성, 대규모 병렬 컴퓨팅 성능, 그리고 HPE의 고성능 컴퓨팅 솔루션만이 제공할 수 있는 독보적인 서비스가 필요하다. 세계에서 가장 강력하고 에너지 효율적인 시스템을 제공하는 선두 기업으로서 AMD와 협력해 HPE 프로라이언트 컴퓨트 XD685로 이 혁신을 확장하고 AI 모델 개발자 시장의 수요에 부응하며, 산업 전반에서 과학과 공학의 혁신을 가속화할 것”이라고 밝혔다.

AMD 포레스트 노로드(Forrest Norrod) 데이터센터 솔루션 그룹 부사장 겸 총괄 매니저는 “최신 AMD 에픽 프로세서와 인스팅트 가속기의 강력한 조합을 통해 HPE 프로라이언트 컴퓨트 XD685 고객들은 시장 출시 시간을 단축하고 AI 성능과 효율성에서 진정한 리더십을 경험할 수 있다. HPE와의 협력을 통해 LLM 학습에 대한 수요 증가에 대응하며 AI 노력을 극대화하고, 업계의 경쟁력 있는 혁신을 촉진하는 유연하고 고성능의 솔루션을 지속적으로 제공하고 있다”고 말했다.

HPE 프로라이언트 컴퓨트 XD685는 HPE가 설계한 새로운 모듈형 섀시를 통해 신속한 대규모 AI 모델 학습 및 조정 프로젝트를 지원한다. 모듈형의 콤팩트한 5U 섀시는 솔루션의 시장 출시 시간을 단축시키고 다양한 GPU, CPU, 구성 요소, 소프트웨어(SW) 및 냉각 방식을 수용할 수 있는 유연성을 제공한다. 또한 수십 년간 축적된 HPE의 직접 수냉 방식(Direct Liquid Cooling; DLC) 노하우와 HPE iLO의 보안 혁신을 결합해 지속 가능하고 안전한 고성능 솔루션을 구현한다는 설명이다.

‘AMD CDNA 3’ 아키텍처로 구동되는 AMD 인스팅트 MI325X 가속기는 학습 및 추론 작업에서 뛰어난 AI 성능과 효율성을 제공한다. MI325X 가속기는 초당 6테라바이트(TB)의 메모리 대역폭을 갖춘 HBM3e 메모리 용량을 통해 성능을 최적화하고 총소유비용(TCO)을 절감을 돕는다.

또한 HPE의 DLC 옵션은 조직이 증가하는 전력 요구 사항을 충족하고 지속가능성 목표를 달성하며 운영비용을 낮추도록 지원한다. 또한 HPE의 전문 서비스 팀이 솔루션을 구축, 통합, 검증, 테스트 및 맞춤화해 현장 배포 시간을 단축시킨다. 아울러 HPE는 HPE iLO를 통해 HPE 프로라이언트 컴퓨트 XD685 시스템을 안전하게 관리해, 공급망에서부터 시작해 실리콘에 내재된 고수준의 보안과 원활한 관리를 제공한다는 방침이다.

HPE가 설계한 5U 서버 섀시는 랙당 8노드 구조로 콤팩트하게 구성돼 8웨이 GPU 시스템의 랙 집적도를 극대화한다. HPE 프로라이언트 컴퓨트 XD685는 8개의 AMD 인스팅트 MI325X 또는 AMD 인스팅트 MI300X 가속기, 최신 AMD 에픽 9005 시리즈 프로세서 2개, 공랭 혹은 직접 수냉 방식 방식을 지원한다.

뿐만 아니라 완전 통합 시스템 관리 소프트웨어(SW) HPE 퍼포먼스 클러스터 매니저(HPE Performance Cluster Manager)를 통해 베어메탈에서 자동화된 설정으로 복잡한 시스템을 빠르게 운영할 수 있도록 지원한다. 상세한 텔레메트리, GPU 스트레스 테스트 등을 통해 클러스터를 안정적으로 유지 및 운영한다는 설명이다.

특히 HPE는 AMD 에픽 프로세서를 탑재한 HPE 프로라이언트 서버가 AMD 에픽 9005 시리즈 프로세서를 사용하는 HPE 프로라이언트 젠11 서버(HPE ProLiant Gen11 Server)에서 30개의 새로운 세계 기록을 포함해 총 48개의 세계 기록을 달성했다고 발표했다.

HPE 프로라이언트 컴퓨트 XD685는 현재 HPE를 통해 주문할 수 있으며, 내년 1분기부터 다양한 구성으로 순차적으로 출시될 예정이다.