[AI 전략·솔루션 돋보기 ㊸] 올거나이즈

“LLM 올인원 솔루션으로 업무 환경 혁신한다”

2024-11-01     김호준 기자

[아이티데일리] AI에 필요한 모든 서비스 제공 목표

올거나이즈는 산업 특화 온프레미스 거대언어모델(LLM)부터 앱 빌더 및 앱 마켓까지 아우르는 LLM 올인원 솔루션 기업이다. 기업이 내부에 AI를 도입할 때 필요한 서비스를 모두 제공하는 ‘LLM 인에이블러(Enabler)’를 표방한다.

특히 다양한 LLM을 이용한 개발도구, 그리고 미리 개발된 앱을 손쉽게 사용할 수 있는 앱 마켓을 운영하고 있다. 기업은 업무에 필요한 인공지능(AI) 어시스턴트를 LLM 앱으로 만들거나 직군별/산업별로 제작된 모델을 선택할 수 있다.


누구나 노코드로 활용하는 ‘알리 LLM 앱 빌더’

올거나이즈의 ‘알리 LLM 앱 빌더(App Bulider)’는 개발 지식 없이도 누구나 노코드(No-code) 형태로 보고서 요약, 데이터 시각화 및 분석 등 기업 맞춤형 앱을 쉽게 제작할 수 있도록 지원한다. 특히 오픈AI ‘GPT-4o’, 구글 ‘제미나이(Gemini)’, 앤스로픽 ‘클로드(Claude)’, 네이버 ‘하이퍼클로바X(HyperCLOVA X)’ 등 기업이 원하는 모델을 자유롭게 선택해 사용할 수 있다.

올거나이즈가 자체 제작한 산업 특화된 소형 거대언어모델(sLLM)도 온프레미스로 활용 가능하다. sLLM은 기업 데이터로 미세조정(파인튜닝)해 제작한 모델로 망분리 규제 등이 중요한 금융권에서 주로 사용 중이다.

직접 개발하지 않고 만들어진 앱을 사용할 수도 있다. ‘알리 LLM 앱 마켓(App Market)’은 직군별 업무에 활용할 수 있는 LLM 기반 앱 100여 개를 제공한다. sLLM과 앱 마켓을 함께 활용하면 생산성을 높여주는 앱을 보다 쉽게 업무 환경에 도입할 수 있다.


알아서 업무 해결하는 ‘AI 워크 에이전트’가 지향점

올거나이즈는 사무직 노동자의 업무를 AI로 혁신한다는 비전을 갖고 있다. 실제로 AI로 일하는 방식은 점점 변화해 왔으며, 오픈AI 챗GPT 등장 후 그 속도는 더욱 가속됐다. 올거나이즈 자체 통계 자료에 따르면, 챗GPT 등장 이전에는 고객이 기업용 AI 문서 솔루션인 ‘알리 앤서’에 문장으로 질문하는 비율이 30% 수준에 그쳤으며, 특히 포털 사이트에서 사용되는 ‘키워드’ 질문 비율은 70%에 달했다.

챗GPT 등장 후 알리 앤서 질문 중 문장형 비중을 70% 이상으로 급상승했다. 사람들이 챗봇과 대화하는 법을 체득하며 달라졌다는 게 회사의 설명이다. 특히 사람들이 생성형 AI 사용법을 빠르게 학습함에 따라, 이를 다양한 솔루션에 접목하는 사례가 꾸준히 증가하고 있다.

올거나이즈는 늘어나는 AI 수요에 대응하고자 △자체 개발 모델 △인프라 △사내외 서비스 연동을 지원하는 미들웨어 △노코드 기반 앱 빌더 △앱 마켓에 이르는 LLM의 핵심 기술들을 제공한다.

이를 통해 올거나이즈가 추구하는 방향은 ‘AI 워크 에이전트’다. 워크 에이전트는 사용자와 상호작용하며 더욱 능동적으로 업무 흐름을 파악, 스스로 여러 앱과 기능을 연결해 바로 결과물까지 끌어내는 기술로, 널리 쓰이는 챗봇보다 진보된 형태다.

AI 워크 에이전트를 위해서는 사람이 아니라 AI가 앱을 만드는 단계로 발전해야 한다. 예를 들어, 고객 문의에 자동 응대하는 이메일 LLM 앱을 제작할 때, 현재는 알리 앱 빌더에서 입력값 등을 설정하고, 프롬프르 및 API 등 세부 요소를 정한다. 올거나이즈 앞으로 이러한 앱 제작 과정을 AI가 이해하고 알아서 수행할 수 있도록 개발해 나갈 계획이다.

올거나이즈가 주목하는 산업 분야는 금융권이다. 자체 제작한 금융 특화 sLLM ‘알파-F’는 금융 용어, 업계 문서 스타일, 자주 쓰이는 복잡한 추론 등에 강점을 갖췄다. 금융권 업무에 적용돼 사내 문서 및 데이터베이스 기반으로 질의응답에 출처를 표기하거나 복잡한 매뉴얼, 약관 등에서 빠른 정보 탐색을 지원한다. 특히 경량화된 형태로 온프레미스로 설치할 수 있어 망분리 규제로 LLM 도입이 어려운 금융권에 적합하다.