[아이티데일리] 인스웨이브시스템즈(대표 어세룡)는 온디바이스 대규모언어모델(LLM)을 지원하기 위한 솔루션 ‘W-매트릭스 AI(W-Matrix AI)’를 출시했다고 28일 밝혔다.

W-매트릭스 AI는 인스웨이브시스템즈의 모바일 앱 플랫폼 ‘W-매트릭스 포 모바일(W-Matrix for Mobile)’과 결합돼 개발자들이 온디바이스 LLM을 손쉽게 사용할 수 있는 올인원 패키지를 제공한다.

W-매트릭스 AI는 △온디바이스 LLM 파일 관리 기능 △파인튜닝된 온디바이스 LLM 파일 배포 저장소 기능 △사용자 입력값 및 검색 데이터 기반 추론 맥락 검색 기능 △온디바이스 임베딩 기능 △유사도검색 기능 △모바일 임베딩 데이터 생성도구 △모바일 LLM 모델 위한 플랫폼별 변환 도구로 적절한 파일 형식으로 변환하는 기능 등을 포함하고 있다.

이러한 기능들은 웹 개발자와 LLM 사용 경험이 없는 일반 앱 개발자 모두가 온디바이스 LLM을 지원하는 앱을 쉽게 개발할 수 있도록 설계됐다.

W-매트릭스 AI의 적용 사례로는 인스웨이브시스템즈의 기술 지원 사이트 W-테크에 내장된 AI 챗봇 서비스를 모바일 앱 형태로 제공하는 ‘W-톡’이 있다.

또한 W-매트릭스 AI는 애플 비전 프로(Apple Vision Pro)를 포함한 더욱 다양한 디바이스 지원을 준비 중이며, 2024년 3월 중 출시할 예정이다. 이를 통해 사용자들은 더욱 다양한 디바이스에서 온디바이스 LLM의 혜택을 누릴 수 있게 됐다.

인스웨이브시스템즈 관계자는 “W-매트릭스 AI의 출시로 개발자들은 이제 더욱 쉽게 온디바이스 LLM을 앱에 통합해 사용자에게 더욱 풍부하고 개인화된 경험을 제공할 수 있게 됐다”면서 “AI 기술을 활용한 다양한 제품을 시장에 선보이기 위해 지속적으로 노력하겠다”고 밝혔다.