구글 클라우드에 엔비디아 H100 기반 ‘DGX 클라우드’ 플랫폼 적용

[아이티데일리] 엔비디아(NVIDIA, CEO 젠슨 황)는 구글 클라우드(Google Cloud)와 생성형 인공지능(AI) 파트너십을 강화한다고 21일 밝혔다. 양사 협력 강화를 통해 엔비디아는 머신러닝(ML) 커뮤니티가 생성형 AI 애플리케이션을 쉽게 구축·확장·관리할 수 있도록 지원할 계획이다.

구글은 자사 제품과 개발자에게 AI 혁신을 지속적으로 제공하기 위해 새롭게 공개된 ‘엔비디아 그레이스 블랙웰(Grace Blackwell)’ AI 컴퓨팅 플랫폼을 도입하고, 구글 클라우드에 엔비디아 ‘DGX 클라우드(DGX Cloud)’ 서비스를 적용한다고 발표했다. 이제 엔비디아 H100 기반 DGX 클라우드 플랫폼을 구글 클라우드 내에서 정식으로 이용할 수 있게 됐다.

특히 구글은 개방형 모델인 ‘젬마(Gemma)’ 제품군 최적화를 위한 협력을 기반으로, 엔비디아 NIM 추론 마이크로서비스도 도입한다. 이를 통해 구글은 개발자들이 선호하는 툴과 프레임워크를 사용해 훈련하고 배포할 수 있는 개방적이고 유연한 플랫폼을 제공할 계획이다. 또한 양사는 엔비디아 GPU와 엔비디아 H100 그리고 L4 텐서 코어(L4Tensor Core) GPU 기반의 ‘버텍스 AI(Vertex AI)’ 인스턴스에서 JAX를 지원한다.

이외에도 양사는 엔비디아 NIM 추론 마이크로서비스를 구글 쿠버네티스 엔진(GKE)에 통합하고, 구글 클라우드 고성능 컴퓨팅(HPC) 툴킷을 통해 플랫폼 전반에서 엔비디아 네모 프레임워크를 보다 쉽게 배포할 수 있도록 지원할 계획이다. 아울러 데이터 사이언스와 분석을 발전시키기 위해 버텍스 AI는 엔비디아 H100 GPU 기반의 구글 클라우드 A3 가상머신(VM)과 엔비디아 L4 텐서 코어 GPU 기반의 G2 VM을 지원하게 된다. 이를 기반으로 데이터플로우 부문 또한 엔비디아 GPU에서 가속화된 데이터 처리에 대한 지원을 확대했다는 설명이다.

구글 클라우드의 토마스 쿠리안(Thomas Kurian) CEO는 “엔비디아와의 오랜 파트너십은 하드웨어 수준에서 시작해 최첨단 GPU 가속기, 소프트웨어 에코시스템, 관리형 버텍스 AI 플랫폼에 이르기까지 포트폴리오 전반으로 확장됐다. 우리는 엔비디아와 함께 ML 개발자를 위한 접근성이 높고 개방적이며 포괄적인 AI 플랫폼을 제공하기 위해 최선을 다하고 있다”고 밝혔다.

엔비디아의 젠슨 황(Jensen Huang) CEO는 “기업들은 몇 년이 아닌 몇 주, 몇 달 안에 생성형 AI를 최대한 활용할 수 있는 솔루션을 찾고 있다. 확장된 인프라 서비스와 엔비디아의 풀스택 AI와의 새로운 통합을 통해 구글 클라우드는 생성형 AI 애플리케이션을 쉽게 확장할 수 있는 개방적이고 유연한 플랫폼을 고객에게 지속적으로 제공하고 있다”고 말했다.

저작권자 © 아이티데일리 무단전재 및 재배포 금지