[NVIDIA③] 한국과 손잡은 엔비디아, AI 생태계 공동 구축

[아이티데일리] 지난 10월 30일 엔비디아 젠슨 황( CEO가 삼성전자 이재용 회장, 현대차그룹 정의선 회장과 ‘치맥 회동’을 가진 데 이어, ‘2025년 경주 아시아태평양경제협력체(APEC) 정상회의’를 계기로 엔비디아와 국내 기업 간 대규모 협업 구상이 속속 공개되면서 국내 AI 인프라 확장이 본격화되고 있다.

엔비디아는 한국에 최신 블랙웰(Blackwell) GPU 26만 장 투입을 약속했으며, 이에 따라 정부는 최대 5만 개의 GPU를 도입해 국내 산업 전반의 AI 개발을 지원할 계획이다. 삼성전자·SK그룹·현대차그룹은 각각 5만 개 규모의 GPU를, 네이버클라우드는 6만 개의 GPU를 도입한다.

특히 네이버클라우드는 지난 10월 31일 엔비디아와 업무협약(MOU)을 체결하고, 소버린 AI·피지컬 AI 구현을 위한 인프라 확장에 들어갔다. ‘엔비디아 RTX PRO 6000 블랙웰’과 기타 블랙웰 GPU를 포함해 최대 6만 개 GPU를 도입할 계획이며, 엔비디아 AI 인프라 위에서 네모트론(Nemotron) 오픈 모델 기반의 차세대 소버린 AI 개발을 추진한다. 또한 조선·보안 등 산업 특화 AI 모델 개발에도 속도를 내는 한편, 국민 대상 포용적 AI 기술 구현을 강화한다는 전략이다.

업계에 따르면 대규모 전자상거래 기업 쿠팡은 최근 엔비디아 클라우드 파트너(NCP) 자격을 취득하고, 엔비디아와 협력해 그래픽처리장치(GPU)를 클라우드로 제공하는 GPUaaS 사업을 추진할 계획이다. NCP는 엔비디아 소프트웨어와 하드웨어를 클라우드 서비스 형태로 제공하는 엔비디아의 공식 파트너사를 뜻한다.

그동안 쿠팡은 글로벌 운영 전반에 AI를 내재화해 왔다. 수백 개의 AI 모델이 재고 예측, 실시간 맞춤형 광고 제공, 수천 개의 배송 경로 최적화 등 핵심 비즈니스 기능을 실시간으로 구동하고 있다. 그러나 과거 쿠팡의 AI 배포 환경은 심각한 비효율을 겪었다. 단일 모델 배포에 최대 36시간, 지역 간 표준화에는 최대 12주가 소요됐다. 특히 비일관적인 배포 방식과 개별 팀의 맞춤형 추론 서버 구축은 유지보수 문제와 더불어 GPU 활용률이 50% 미만으로 낭비를 초래했다. 

이러한 문제를 해결하기 위해 쿠팡은 ‘쿠팡 인텔리전트 클라우드(Coupang Intelligent Cloud, CIC)’를 구축했다. CIC는 쿠팡의 AI 팩토리를 구동하는 엔진 역할을 한다.

CIC 플랫폼은 크게 세 가지 계층으로 구성된다. 하단 인프라 계층에는 NVIDIA 호퍼(Hopper) 및 블랙웰(Blackwell) 아키텍처 GPU가 전체 AI 팩토리의 컴퓨팅 파워를 제공한다. 그 위에 쿠버네티스 클러스터가 오케스트레이션을 관리한다. 개발자는 CLI와 UI를 통해 데이터 전처리, 모델 학습, 모델 레지스트리 저장 및 프로덕션 배포에 이르는 모든 워크플로우를 간소화된 흐름으로 처리할 수 있다.

‘엔비디아 AI 서밋’에 참석한 쿠팡의 대니 리(Danny SH Lee) 발표자는 “CIC 구축 후 쿠팡은 효율성 향상을 높인 것으로 나타났다. GPU 활용률은 50% 미만에서 현재 약 95%로 파악됐다”며 “이는 고가의 리소스 투자 대비 운영 비용을 크게 절감하고 효율을 극대화했음을 의미한다”고 말했다.

쿠팡은 앞으로도 CIC를 통해 배포 프로세스를 지속적으로 간소화하고, 사용자 수요 기반으로 추론 사용을 확장하는 등 AI 팩토리 생태계를 가속하며 쿠팡 에코시스템 전반에 AI를 더욱 깊이 통합할 계획이다.

엔비디아의 국내 총판은 매니지드 서비스 제공사(MSP)인 메가존클라우드가 맡는다. 메가존클라우드는 엔비디아 DGX·HGX GPU 서버, 인피니밴드 등 핵심 AI 인프라 장비를 공급하는 한편, 단순 유통을 넘어 ‘플랫폼형 총판’ 모델을 도입해 고객의 AI 비즈니스 구축 전체를 지원한다는 전략이다.

플랫폼형 총판 모델은 AI 인프라 설계·구성부터 PoC(기술검증), 교육·인증 프로그램까지 전 과정을 오케스트레이션한다. 이를 통해 벤더·파트너·고객을 연결하는 생태계를 구축하겠다는 목표다. 산업별 기술 세미나, 고객 웨비나, 파트너 교육 등 공동 마케팅도 강화한다.

삼성전자는 향후 수년간 5만 개 이상 엔비디아 GPU를 도입해 AI 팩토리 인프라를 확충하고, 엔비디아 옴니버스(Omniverse) 기반 디지털 트윈 제조 환경 구현을 가속할 계획이다. 삼성전자의 AI 팩토리는 반도체 제조 전 과정에서 생성되는 데이터를 실시간 수집·분석해 스스로 판단하는 지능형 제조 플랫폼으로 설계된다. 이를 통해 설계·공정·운영 등 전 과정에 AI를 적용해 학습·예측·제어가 가능한 ‘생각하는 공장’을 구현하며, 차세대 반도체 개발·양산 주기 단축과 품질·효율성 혁신을 목표로 한다.