[아이티데일리] 델 테크놀로지스(Dell Technologies, 한국 대표 김경진)는 ‘델 AI 팩토리(Dell AI Factory)’에 새로운 랙 확장형 통합 시스템과 서버 및 스토리지 솔루션을 추가했다고 17일 밝혔다. 이번 발표에는 고집적 컴퓨팅 및 대규모의 인공지능(AI) 워크로드를 필요로 하는 기업 및 기관들을 위한 서버 신제품 및 스토리지 업데이트가 포함됐다.

‘델 AI 팩토리’ 신규 솔루션 추가

이번에 추가된 ‘델 IR 7000(Dell Integrated Rack 7000)’은 우수한 집적도, 지속 가능한 전력 관리 및 첨단 냉각 기술을 갖춰 가속 컴퓨팅 요구에 최적화된 제품이다. 오픈 컴퓨트 프로젝트(OCP) 표준을 기반으로 디자인된 랙으로 대규모 인프라에 적합하며, 미래 지향적인 설계로 여러 세대에 걸친 이기종 기술을 수용할 수 있다는 게 회사 측 설명이다.

델 IR 7000은 21인치 폼팩터로 설계돼 높은 수준의 CPU 및 GPU 집적도를 제공한다. 또한 더 넓은 서버 슬레드를 통해 최신의 대형 CPU 및 GPU 아키텍처를 수용한다. 특히 기본적으로 액체 냉각을 위해 설계된 목적형 랙으로써 향후 최대 480KW까지 냉각할 수 있으며, 발생하는 열을 100% 가깝게 포착할 수 있게 설계됐다.

뿐만 아니라 델과 상용 네트워킹을 모두 지원하고, 간편한 구축 및 에너지 효율성을 높이기 위해 ‘델 통합 랙 스케일러블 시스템(IRSS)’을 사용할 수 있다. IRSS는 AI 워크로드에 최적화된 랙 스케일 인프라를 제공하며, 통합된 플러그 앤 플레이 방식의 랙 스케일 시스템으로서 빠르고 효율적인 구축을 지원한다.

델 IR7000에는 ‘엔비디아 기반 델 AI 팩토리(Dell AI Factory with NVIDIA)’ 포트폴리오의 일부인 ‘델 파워엣지 XE9712(Dell PowerEdge XE9712)’와 ‘델 파워엣지 M7725(Dell PowerEdge M7725)’ 등 델의 ‘AI-레디’ 플랫폼을 장착할 수 있다.

델 파워엣지 XE9712는 대규모 AI 구축 환경의 거대언어모델(LLM) 학습 및 실시간 추론을 위한 고성능의 고집적 가속 컴퓨팅을 제공하는 서버다. 엔비디아 GB200 NV L72를 기반으로 높은 GPU 집적도를 제공하는 플랫폼으로, 랙 스케일 설계에서 최대 36개의 엔비디아 그레이스 CPU(NVIDIA Grace CPU)와 72개의 엔비디아 블랙웰 GPU(NVIDIA Blackwell GPU) 연결을 지원한다.

72개의 GPU NV링크(NVLink) 도메인은 최대 30배 빠른 실시간 1조 개 파라미터 LLM 추론이 가능한 단일 GPU로서 구동된다. 델 테크놀로지스는 이 같은 수랭식 엔비디아 GB200 NVL72가 공랭식 NVIDIA H100 시스템보다 최대 25배 더 효율적이라고 설명했다.

다음으로 델 파워엣지 M7725는 각종 연구, 정부 기관, 금융 서비스 등에 적합한 고성능 고집적 컴퓨팅을 제공한다. IR 7000 랙에 구축하도록 설계돼, 랙 당 2만 4천 개에서 2만 7천 개까지 코어를 탑재할 수 있다.

64개 또는 72개의 2소켓 노드 및 5세대 AMD 에픽(EPYC) CPU 기반의 향상된 서비스 확장성도 제공한다. 전면 IO 슬롯으로 고속 IO 연결이 가능하며 까다로운 애플리케이션을 처리할 수 있는 탁월한 연결성을 갖췄다는 설명이다. 또한 에너지 효율적인 폼팩터로 다이렉트 리퀴드 쿨링(DLC) 방식의 수랭식과 공랭식을 조합해 보다 지속 가능한 데이터센터 운영을 지원한다.

비정형 스토리지 및 데이터 관리 고도화

아울러 델 테크놀로지스는 고객들이 AI 애플리케이션 성능을 끌어올리고 글로벌 데이터 관리를 간소화할 수 있도록, 비정형 데이터 스토리지 포트폴리오도 지속적으로 고도화하고 있다. ‘엔비디아 DGX 슈퍼POD(SuperPOD)’ 인증을 받은 이더넷 스토리지인 델 파워스케일(Dell PowerScale)은 신규 업데이트를 통해 데이터 관리 전략을 강화하고 워크로드 성능을 개선하며 AI 워크로드에 대한 지원을 강화한다는 설명이다.

먼저 델 테크놀로지스는 파워스케일 메타데이터와 델 데이터 레이크하우스(Dell Data Lakehouse)를 사용함으로써, 데이터 인사이트를 확보해 보다 스마트하게 의사 결정을 내릴 수 있도록 돕는다. 향후 출시 예정인 엔비디아 니모(NVIDIA NeMo) 서비스 및 검색증강생성(RAG) 프레임워크용 델 오픈소스 문서 로더를 통해 데이터 수집 시간을 단축하고 컴퓨팅 및 GPU 비용을 절감할 수 있도록 지원할 계획이다.

또한 용량과 효율성을 높이는 동시에 데이터센터 스토리지 상면을 절반으로 줄여주는 새로운 61TB 고집적 스토리지드라이브로, 대규모 데이터 세트를 학습하고 AI 모델을 미세 조정할 수 있도록 돕는다. 최대 63% 더 빠른 처리량을 제공하는 프론트엔드 엔비디아 인피니밴드(InfiniBand) 기능 및 200GbE 이더넷 어댑터도 지원해 AI 워크로드 성능 향상을 지원한다.

업데이트된 델 데이터 레이크하우스 데이터 관리 플랫폼에는 재해 복구, 자동화된 스키마 검색, 포괄적인 관리 API, 셀프서비스 풀 스택 업그레이드와 같은 새로운 기능도 추가됐다.

이와 함께 데이터 카탈로그 최적화 서비스(Optimization Services for Data Cataloging) 및 데이터 파이프라인 구현 서비스(Implementation Services for Data Pipelines)를 활용하면, 데이터 중심의 AI 프로젝트를 간소화하고 사용 사례를 신속하게 확장할 수 있다는 설명이다.특히 델 테크놀로지스는 검색, 구성, 자동화 및 통합을 통해 고품질 데이터에 대한 접근성을 높이는 데 용이하다고 강조했다.

최신 워크플로를 위한 인텔 기반 델 생성형 AI 솔루션 지원

델 AI 팩토리의 일부인 ‘인텔 기반의 델 생성형 AI 솔루션(Dell Generative AI Solutions with Intel)’은 원활한 AI 구축을 위해 공동 엔지니어링, 테스트 및 검증된 플랫폼을 제공한다. 인텔 가우디 3(Intel Gaudi 3) AI 가속기를 탑재한 델 파워엣지 XE9680을 중심으로 델의 스토리지, 네트워킹, 컨설팅 및 구축 서버스, 그리고 오픈소스 소프트웨어를 결합해 사전 구성된 통합 스택에서 콘텐츠 제작, 디지털 어시스턴트, 디자인, 데이터 생성, 코드 생성 등 다양한 생성형 AI 사용 사례를 지원한다.

한국 델 테크놀로지스 김경진 총괄사장은 “AI의 폭발적 증가세로 고집적 컴퓨팅과 혁신적인 냉각 성능이 요구되고 있는데, 오늘날의 데이터센터를 이러한 요구에 미치지 못하는 수준이다. 델은 인프라 솔루션에 유연성과 효율성을 갖춘 모듈식 설계를 적용해, 빠르게 진화하는 AI 환경에서 앞으로도 경쟁 우위를 유지해 나갈 계획”이라고 말했다.

델 IR 7000과 델 파워엣지 M7725 서버는 내년 1분기에 한국을 비롯한 전 세계에 출시될 예정이며, 파워엣지 XE9712은 일부 고객에 한해 샘플링 제품이 제공되고 있다. 델 파워스케일 업데이트는 올 12월에 제공되며, 델 데이터 레이크하우스 업데이트는 내년 1분기 중 제공될 예정이다. 인텔 기반의 델 생성형 AI 솔루션은 올해 4분기 중 출시된다.