범용, 안전성 등 용도 맞게 선택 가능…‘왓슨x 코드 어시스턴트’도 공개

IBM이 새로운 AI 모델 제품군 ‘그래니트 3.0’을 공개했다. (사진=IBM)
IBM이 새로운 AI 모델 제품군 ‘그래니트 3.0’을 공개했다. (사진=IBM)

[아이티데일리] IBM은 연례행사인 테크익스체인지(TechXchange)에서 인공지능(AI) 모델 제품군 ‘그래니트(Granite) 3.0’을 공개했다고 22일 밝혔다.

그래니트 3.0은 △범용/언어 모델 △안전 장치 및 안전성 모델 △혼합 전문가 모델 등 세 가지 영역에 걸쳐 총 10개의 모델로 출시됐다. 아파치 2.0 라이선스 하에 오픈소스로 공개돼 특정 모델에 대한 종속성 감소는 물론, 성능 및 비용 효율성 측면에서 기업 고객과 커뮤니티에 비즈니스 가치를 제공할 것으로 회사는 기대했다.

그래니트 3.0 8B 및 2B 언어 모델은 기업 환경에 최적화돼 검색 증강 생성(RAG), 분류, 요약, 엔티티(Entity) 추출 및 도구 사용과 같은 여러 작업에서 뛰어난 성능을 발휘한다. 소형이면서도 유연해 기업 데이터 기반으로 세밀한 조정이 가능하며, 다양한 비즈니스 환경과 워크플로에 쉽게 통합되도록 설계됐다.

대다수 거대언어모델(LLM)은 공개 데이터를 기반으로 훈련되며, 기업 데이터를 활용하는 경우는 아직 많지 않다. IBM은 지난 5월 레드햇과 함께 선보인 정렬 튜닝 기법 ‘인스트럭트랩(InstructLab)’을 통해, 소형 그래니트 모델과 기업 데이터 간 결합으로 더 큰 모델의 성능을 낮은 비용으로도 구현할 수 있을 것으로 기대했다.

아울러 IBM은 그래니트 가디언(Granite Guardian) 모델도 새롭게 선보였다. 이 모델은 애플리케이션 개발자가 사용자 명령어와 LLM 답변에서 발생할 수 있는 위험 요소를 감지해 안전장치를 구현할 수 있도록 지원한다.

그래니트 가디언 모델은 사회적 편견, 증오, 유해성, 욕설, 폭력, 보안 우회 등의 위험 요소를 감지할 뿐 아니라 정보 신뢰성, 맥락 적합성, 답변 관련성과 같이 RAG 작업에 특화된 고유한 검증 기능도 갖췄다. 또 그래니트 언어 모델 이외에 타사 모델과도 함께 안전장치를 구현하는 데 활용할 수 있다.

한편, IBM은 차세대 ‘왓슨x 코드 어시스턴트(watsonx Code Assistant)’를 올해 4분기에 출시할 예정이라고 발표했다. 왓슨x 코드 어시스턴트는 그래니트 코드 모델을 기반으로 개발됐으며 C, 자바, 파이썬 등 프로그래밍 언어에 대한 범용 코딩 지원과 고급 애플리케이션 현대화 기능을 제공한다.

저작권자 © 아이티데일리 무단전재 및 재배포 금지