[아이티데일리] 엔비디아(CEO 젠슨 황)는 ‘엔비디아 NIM(NVIDIA NIM)’을 다운로드해 클라우드, 데이터 센터, 워크스테이션에 배포할 수 있도록 지원한다고 3일 밝혔다.

엔비디아 NIM은 인공지능(AI) 모델을 최적화된 컨테이너로 제공하는 추론 마이크로 서비스다. 이를 사용하면 개발자들은 코파일럿, 챗봇 등의 생성형 AI 애플리케이션을 몇 주가 아닌 단 몇 분만에 쉽게 구축할 수 있다.

점점 복잡해지고 있는 생성형 AI 애플리케이션은 텍스트, 이미지, 비디오, 음성 등을 생성하기 위해 다양한 기능을 가진 여러 모델을 자주 활용한다. 엔비디아 NIM은 생성형 AI를 개발자들의 애플리케이션에 추가하는 간단하고 표준화된 방법을 제공함으로써 생산성 향상을 제공한다.

NIM을 통해 기업들은 인프라 투자도 극대화할 수 있다. 엔비디아에 따르면, NIM에서 메타 라마 3-8B(Meta Llama 3-8B) 모델을 실행할 경우, NIM을 사용하지 않을 때보다 가속화된 인프라에서 최대 3배 더 많은 생성형 AI 토큰을 생성할 수 있다. 이를 통해 기업은 효율성을 높이고 동일한 컴퓨팅 인프라를 사용하더라도 더 많은 응답을 만들어낼 수 있다.

케이던스(Cadence), 클라우데라(Cloudera), 코히시티(Cohesity), 데이터스택스(DataStax), 넷앱(NetApp), 스케일 AI(Scale AI), 시높시스(Synopsys)를 포함한 200여 개의 기술 파트너가 NIM을 그들의 플랫폼에 통합하고 있다. 이 기업들은 이를 통해 코파일럿, 코드 비서, 디지털 휴먼 아바타 등 도메인 특화 애플리케이션을 위한 생성형 AI 배포 속도를 높일 수 있다. 허깅페이스(Hugging Face)는 현재 메타 라마 3부터 NIM을 제공하고 있다.

엔비디아 젠슨 황(Jensen Huang) CEO는 “모든 기업이 자사 운영에 생성형 AI를 도입하고자 하지만, 모든 기업이 전담 AI 연구팀을 보유하고 있는 것은 아니다”라며 “플랫폼 전반에 통합돼 어디서나 개발자들이 사용할 수 있고, 어디서나 실행될 수 있는 엔비디아 NIM은 기술 업계가 생성형 AI를 모든 기업에서 활용할 수 있도록 지원한다”고 말했다.