에이닷, 엔트로픽, 코난 등 멀티 LLM 기반 엔터프라이즈 AI 사업 나서

[아이티데일리] SK텔레콤(사장 유영상, 이하 SKT)이 기업·공공용 생성형 인공지능(AI) 시장 공략을 위한 ‘멀티 대형 언어 모델(LLM)’ 전략을 23일 공개했다.

SKT는 기업 및 공공기관 등의 요구에 맞춰 △대화·고객센터 등 통신사 기반 서비스를 중심으로 자체 개발해온 ‘에이닷 LLM’과 △윤리적 답변 및 대용량 텍스트 입력에 강점이 있는 ‘엔트로픽(Anthropic) LLM’ △한국어 데이터가 풍부한 ‘코난 LLM’ 등을 조합해 고객 맞춤형으로 제공하기 위한 기술과 사업적 준비를 진행 중이라고 발표했다. 자체 LLM과 더불어 업계에서 인정받는 타사 LLM까지 포함한 라인업으로 멀티 LLM 사업을 추진한다는 계획이다.

SKT AI 서비스 에이닷용 슈퍼컴퓨터 ‘타이탄’
SKT AI 서비스 에이닷용 슈퍼컴퓨터 ‘타이탄’

SKT는 이달부터 한국어 기반의 에이닷 LLM을 엔터프라이즈용 기본모델(FM)로 출시해 고객사 대상 모델을 학습시키고 최적화 작업을 진행하고 있다.

또한 SKT의 지분투자 이후 다양한 분야에서 협력을 확대하고 있는 코난 LLM도 활용할 계획이다. 이어 SKT가 지난 13일 지분투자를 발표한 엔트로픽의 LLM은 SKT 주요 B2B 서비스 기능에 결합하는 방식으로 협의 중이다. 기능 통합 작업이 완료되는 4분기부터 해당 서비스 제공이 가능할 것으로 전망된다.

SKT는 LLM을 포함한 AI 서비스의 안정적 운용을 위한 △대규모 GPU 시스템 △전국 단위 IT 인프라 운영 경험 △대규모 AI 개발자 기반 등을 갖추고 있어, 엔터프라이즈 AI 분야에서 ‘풀스택 서비스(Full Stack)’가 가능하다는 것이 회사 측 설명이다.

SKT는 자사가 설립한 AI반도체 전문기업 사피온의 신제품 ‘X330’ 등을 활용, 기존 GPU가 갖고 있는 발열과 높은 가격이라는 문제를 해결하기 위해 공을 들이고 있다. SKT는 이 같은 GPU 인프라에 확보한 LLM을 결합하고 산업별로 최적화된 형태로 서비스를 공급하고자 다양한 사업자들과의 협력에 나서고 있다.

특히 SKT는 최근 지분투자를 단행해 3대 주주가 된 페르소나AI와 AI컨택센터(AICC) 분야 LLM 구축 사업 협력을 추진하는 등 다양한 방식의 LLM 사업 추진을 위한 생태계를 구축, 확대해 나갈 계획이다.

기업·공공 분야에 맞는 산업별 특화 LLM 서비스로서 SKT는 에이닷 LLM을 중심으로 국내 시장을 선점하고, 초거대 AI 중심의 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 LLM 등을 활용해 시장을 공략할 계획이다.

SKT는 최근 LLM 서비스 수요가 증가하고 있는 정부 부처, 공기업, 금융기업 등에 우선적으로 서비스를 공급할 계획이다. SKT는 행안부, 과기부 등 정부에서 추진 중인 LLM 기반 시범 사업과 본 사업 참여를 준비 중이며, 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진하고 있다.

한편 SKT는 기업 및 공공사업 담당 구성원을 대상으로 멀티 LLM의 주요 기능, 사용법 등에 대한 교육을 지난주부터 진행해오고 있다.

SKT 김경덕 부사장은 멀티 LLM 교육 과정에 참석한 사내 구성원들에게 “중요한 것은 고객의 요구 사항으로, 다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다”고 말했다.

저작권자 © 아이티데일리 무단전재 및 재배포 금지