생성형 AI 협력 확대…아마존 EC2 기반 LLM 추론 구축 및 실행 성능 가속화

[아이티데일리] 엔비디아(NVIDIA, CEO 젠슨 황)는 엔비디아 블랙웰(NVIDIA Blackwell) GPU 플랫폼이 아마존웹서비스(AWS)에 제공된다고 21일 밝혔다. 이를 토대로 엔비디아와 AWS는 양사가 오랫동안 맺어온 전략적 협력을 확대할 계획이다.

AWS는 엔비디아 GB200 그레이스 블랙웰 슈퍼칩과 B100 텐서 코어 GPU를 제공함으로써, 고객이 새로운 인공지능(AI) 기능을 활용할 수 있도록 인프라부터 소프트웨어(SW)와 서비스까지 지원한다.

엔비디아와 AWS는 양사의 최고 기술을 지속적으로 통합해 나가고 있다. △차세대 엔비디아 블랙웰 플랫폼과 AI SW를 갖춘 엔비디아의 최신 멀티노드 시스템 △AWS의 니트로 시스템(Nitro System)과 AWS 키 관리 서비스(KMS)의 고급 보안 △엘라스틱 패브릭 어댑터(EFA) 페타비트 규모의 네트워킹 △아마존 EC2 울트라클러스터 하이퍼스케일 클러스터링 등이 대표적이다.

이 같은 기술들을 바탕으로 아마존 EC2에서 이전 세대 엔비디아 GPU보다 더 빠르고 저렴한 비용으로 대규모로 수조 개의 파라미터 거대 언어 모델(LLM)에 대한 실시간 추론을 구축·실행하는 인프라와 도구를 제공한다는 게 회사 측 설명이다.

AWS의 아담 셀립스키(Adam Selipsky) CEO는 “양사는 13년 전부터 긴밀하게 협력하며 AWS에서 세계 최초의 GPU 클라우드 인스턴스를 함께 출시했다. 현재 우리는 고객에게 가장 광범위한 엔비디아 GPU 솔루션을 제공하고 있다”고 말했다.

이어 아담 셀립스키(Adam Selipsky) CEO는 “엔비디아의 차세대 그레이스 블랙웰 프로세서는 생성형 AI와 GPU 컴퓨팅에서 괄목할 만한 진전을 했다는 것을 뜻한다. AWS의 EFA 네트워킹, 아마존 EC2 울트라클러스터의 대규모 클러스터링, 니트로 시스템의 고급 가상화와 보안 기능을 함께 사용하면 수조 개의 파라미터 거대 언어 모델을 다른 어느 곳보다 빠르고 대규모로 안전하게 구축하고 실행할 수 있다. 양사는 AWS 클라우드에서 엔비디아 GPU를 실행하기 위한 최고의 환경으로 만들기 위해 지속적으로 혁신하고 있다”고 설명했다.

엔비디아의 젠슨 황(Jensen Huang) CEO는 “AI는 전례 없는 속도로 혁신을 주도하며 산업 전반에 걸쳐 새로운 애플리케이션, 비즈니스 모델 및 혁신을 이끌고 있다. AWS와의 협력을 통해 새로운 세대의 AI 기능을 가속화하고 고객에게 전례 없는 컴퓨팅 성능을 제공해 가능성의 범위를 넓혀가고 있다”고 말했다.

저작권자 © 아이티데일리 무단전재 및 재배포 금지