[아이티데일리] 인공지능(AI) 개발 및 클라우드 관리 플랫폼 소프트웨어(SW) 전문기업 에이프리카(대표 강선근)는 거대언어모델 운영(LLMOps) 플랫폼을 바탕으로 엔터프라이즈 LLM 시장에 본격적으로 진출한다고 6일 밝혔다.

챗GPT(ChatGPT)의 등장으로 생성형 AI가 확산되면서 기업들은 물론 공공에서도 LLM을 도입하려는 시도가 늘어나고 있다. 이에 대규모 데이터셋으로 훈련한 수천억 개의 매개변수를 가진 LLM을 도입해 활용하기 위한 방안으로 LLM옵스(Ops)가 주목받고 있다.

일반적인 머신러닝 운영(ML옵스)이 하나의 AI 모델을 개발하고 최적화해 서비스를 제공하는 방법론이라면, LLM옵스는 이를 LLM에 적용해 기업의 내부 보안 정보 유출 방지와 같은 특정 요구에 맞는 LLM 선정 및 학습, 배포 등 운영을 위한 사이클을 통합 관리할 수 있는 체계다. 따라서 LLM옵스를 효과적으로 구현하기 위해서는 ML옵스와 LLM에 대한 기술과 경험이 필수적이다.

에이프리카는 앞서 2019년부터 ML옵스 플랫폼 SW ‘치타’를 개발해 경찰청, 광주과학기술원, 현대글로비스 등 주요 공공기관 및 기업에 공급함으로써 AI 모델 개발에 필요한 데이터 관리부터 모델 개발, 배포와 고성능 컴퓨팅(HPC) 인프라 운영까지 전 과정을 지원하고 있다. 또한 지난해 11월에는 자사의 인공지능연구소를 통해 보안강화와 환각현상(할루시네이션) 방지에 초점을 둔 기업 전용 프라이빗 LLM 서비스 ‘가젤 LLM’을 출시, 기존 ML옵스 솔루션 분야를 넘어 프라이빗 LLM 분야까지 사업의 폭을 넓혀가고 있다.

에이프리카의 LLM옵스 제품은 자사의 치타 플랫폼을 기반으로 LLM 특화 기능이 추가되는 형태다. 우선 검색증강생성(RAG) 기반의 LLM을 배포·모니터링하는 기능을 시작으로, LLM 파인튜닝 기능, 프롬프트 관리 기능, 벡터데이터 관리 등을 순차적으로 지원할 계획이다. 이를 통해 폐쇄형 환경에서 내부 보안 데이터로 LLM 기술을 접목하고자 하는 기업이나 ML 엔지니어를 보유하고 있지 않은 기업들도 손쉽게 LLM을 도입할 수 있을 뿐만 아니라 문서 데이터만 입력하면 LLM 모델을 재훈련하고 자동 배포되는 RAG 기반의 LLM 파이프라인 전 과정을 자동화할 수 있게 된다는 설명이다.

에이프리카 강선근 대표는 “LLM옵스 플랫폼은 LLM을 효과적으로 활용하고자 하는 모든 기업에게 필수적인 도구이며, 치타가 LLM 시장에서 핵심 LLM옵스 제품으로서의 위치를 공고히 하고 기업이 복잡한 기술적 장벽 없이 언어모델을 도입하고 활용할 수 있도록 적극적으로 도울 것”이라고 밝혔다.

한편 에이프리카는 오는 27일에 열리는 ‘젠 AI 서울 24’ 전시에서 자사의 가젤 LLM과 LLM옵스 제품을 소개할 예정이다.