[아이티데일리] IBM은 최근 메타에서 발표한 ‘라마(Llama) 3.1’과 미스트랄 AI에서 발표한 ‘미스트랄 라지(Mistral Large) 2’ 등 최신 오픈소스 거대언어모델(LLM)을 ‘왓슨x.ai(watsonx.ai)에서 제공한다고 1일 밝혔다.

왓슨x 사용 기업들은 IBM 그래니트(Granite), 라마 3.1, 미스트랄 라지 2 등 오픈소스 인공지능(AI) 모델을 자사의 용도와 필요에 따라 자유롭게 선택하고 맞춤화해 사용할 수 있다.

라마 3.1은 각각 80억 개(8B), 700억 개(70B), 4,050억 개(405B)의 매개변수를 가진 사전 학습된 오픈소스 생성형 AI 모델들로 구성됐다. 라마 3.1-405B 모델은 한 번에 처리할 수 있는 문맥의 길이가 토큰 8,192개에서 128,000개로 16배 늘어났으며, 이는 약 85,000개의 영어 단어에 해당한다.

특히 405B 모델은 추론 및 텍스트 생성과 같은 일반적인 AI 활용 사례 외에도, AI의 사전 학습이나 미세 조정을 위한 합성 데이터 생성 및 더 작은 모델로 만드는 지식 증류와 같은 작업에도 사용할 수 있다.

1,230억 개의 매개변수를 가진 미스트랄 라지 2는 코딩과 수학 부문에서 뛰어난 성능을 발휘한다. 80가지가 넘는 코딩 언어를 지원하며, 오픈AI의 GPT-4o, 앤스로픽의 클로드 3 오푸스, 메타 라마 3.1 405B와 같은 최첨단 모델과 동등한 수준의 성능을 제공한다. 향상된 추론 능력으로 환각 현상으로 만들어지는 그럴듯한 거짓 답변을 최소화했다.

라마 3.1이나 미스트랄 라지 2, IBM 그래니트와 같은 광범위한 최신 오픈소스 AI 모델을 제공하는 IBM 왓슨x는 고객이 용도와 목적, 가격과 성능 사이 최적의 균형을 가진 모델을 선택해 각 기업에 가장 잘 맞는 방식으로 구현해 손쉽게 사용할 수 있도록 지원한다.

IBM 왓슨x는 사내 서버, 퍼블릭, 프라이빗, 하이브리드 클라우드 등 기업이 선호하는 인프라 환경에서 모델을 활용할 수 있는 유연성을 제공한다.

또 AI를 활용한 비즈니스 애플리케이션을 쉽게 개발하고, 모든 데이터 소스를 관리하며, 용도에 맞는 미세 조정과 기업에서 사용하는 애플리케이션과의 통합을 위한 직관적인 업무 프로세스를 구축하는 것이 하나의 플랫폼에서 가능하도록 지원한다.

한편, 미스트랄 라지 2 모델은 기업에서 상업적으로 사용하려면 미스트랄 AI에 ‘미스트랄 커머셜 라이선스’을 요청해야 하지만, IBM 왓슨x에서는 상업적 목적으로도 자유롭게 사용할 수 있다.