오케스트로, ‘초거대 AI 기반 플랫폼 이용지원 사업’ 공급기업 선정

[아이티데일리] 클라우드 전문기업 오케스트로(대표 김민준·김영광)는 과학기술정보통신부와 한국지능정보사회진흥원(NIA)이 주관하는 ‘초거대 인공지능(AI) 기반 플랫폼 이용지원 사업’에 공급기업으로 선정됐다고 2일 밝혔다.

초거대 AI 기반 플랫폼 이용지원 사업은 디지털플랫폼정부 혁신 선도를 위해 초거대 AI를 공공 및 민간 기업에서 자유롭게 이용할 수 있도록 지원하는 사업이다. 초거대 AI 플랫폼을 보유한 공급기업과 활용 수요를 가진 중소·벤처기업 및 공공 기관을 매칭, 공급기업이 수요기관에 심층 컨설팅, 개념증명(PoC), 최적화·고도화, 플랫폼 이용 환경 등 종합적인 서비스를 제공하도록 지원한다.

오케스트로는 프라이빗 및 멀티·하이브리드 클라우드 구축부터 클라우드 네이티브 설계와 운영까지 엔드투엔드 서비스를 제공하는 클라우드 전문기업이다. 클라우드 기술력을 바탕으로 IaaS, PaaS, SaaS 등 클라우드 풀스택 지원을 위한 솔루션과 클라우드 네이티브 기반의 생성형 AI 솔루션도 보유하고 있다.

이번 사업을 통해 오케스트로는 클라우드 네이티브 기반의 대화형 AI 솔루션을 제공할 계획이다. 손쉽게 생성형 AI를 만들 수 있는 관리자 기능과 검색을 통해 원하는 정보를 얻을 수 있는 사용자 기능을 구현할 예정이다. 관리자 기능에서는 프로그램에 대한 지식 없이 특정 영역에 대한 생성형 AI를 구축할 수 있으며, 생성형 AI에 대한 특성을 설정해 페르소나를 부여할 수 있다.

사용자들은 관리자가 미리 구축한 특정 주제나 용도에 특화된 생성형 AI를 선택해 사용할 수 있다. 사용자가 특정 생성형 AI를 선택하면, 그 생성형 AI가 갖고 있는 전문 지식 영역에 대해 질문하고 답변받을 수 있다. 특히 오케스트로는 검색 증강 생성(RAG) 기술을 활용해 거대언어모델(LLM)에서 발생하는 환각현상(Hallucination)을 해소했다고 강조한다. 관리자가 업로드한 문서 내의 정보만을 활용해 답변하도록 설정할 수 있으며, 필요시 답변 생성에 활용한 근거 문서를 사용자에게 제공한다.

또한 오케스트로는 고객 도메인에 특화된 LLM을 안정적으로 파인튜닝하고 배포할 수 있도록 클라우드 네이티브를 기반으로 솔루션을 설계했다. 클라우드 네이티브를 통해 폐쇄망 및 멀티 하이브리드 클라우드에서 고객의 도메인에 대한 데이터 유출 없이 안전하게 AI를 학습하고 안정적으로 배포할 수 있다는 설명이다.

오케스트로 박소아 DX융합기술원장(부사장)은 “오케스트로는 총인원의 80% 이상이 기술 인력으로 이뤄진 AI 클라우드 전문기업이다. 초거대 AI 분야에 대한 지적재산권을 보유하고 있으며, LLM 솔루션 PoC 수행 등 초거대 AI 수행 경험과 노하우를 갖고 있다”며 “오케스트로는 클라우드 및 AI 역량을 바탕으로 수요기관에 혁신적인 솔루션을 제공할 수 있을 것이라 확신한다. 앞으로도 지속적인 연구개발과 투자로 기술력을 강화하고, 고객의 요구에 부응하는 고객 중심의 클라우드 기반 AI 서비스를 제공하겠다”고 밝혔다.

한편 오케스트로 DX융합기술원 산하 인공지능연구소는 서비스형 AI(AIaaS, AI as a Service) 플랫폼 개발 및 고도화를 추진하고 있다. 인공지능연구소는 클라우드 분야에 AI옵스(AIOps; AI 운영 관리)를 적용하는 등 개발 역량을 인정받아 과기정통부로부터 우수기업연구소로 선정된 바 있다.