오케스트로, 220억 K-클라우드 기술개발 과제 2건 수주
LLM의 효율적인 학습·추론 위해 자원 제어 ·관리 SW 인프라 개발
[아이티데일리] 클라우드 소프트웨어 전문 기업 오케스트로(대표 김범재)는 과학기술정보통신부와 정보통신기획평가원(IITP)이 추진하는 ‘AI 반도체를 활용한 K-클라우드 기술개발 R&D 사업’에서 총 220억 원 규모의 연구개발 과제 2건을 수주했다고 15일 밝혔다.
오케스트로는 이번 과제를 통해 국산 AI 반도체 기반의 클라우드 플랫폼 기술 개발에 본격 착수한다. 이에 따라 K-클라우드 시장에서의 기술 경쟁력을 강화하고, 초거대 AI 생태계 조성에도 기여할 계획이다.
먼저 오케스트로가 주관기관으로 참여하는 ‘AI 반도체 컴퓨팅 자원분해 및 자원풀링 기술 개발’ 과제는 총사업비 76억 원 규모로, 올해부터 5년간 추진된다.
거대언어모델(LLM)의 학습 및 추론 작업 시 메모리 용량 부족, 가속기 부족, 네트워크 통신 지연 등 병목 현상이 자주 발생하는 가운데, 업계에서는 자원의 물리적 제약에서 벗어나 필요한 자원을 동적으로 할당하기 위한 기술의 필요성이 커지는 추세다.
이러한 필요성을 바탕으로 이번 과제는 LLM 환경에서 모노리식 서버의 물리적 제약을 해소하고, CPU·메모리·스토리지 등 서버 자원과 AI반도체를 분리한 뒤, 고속 인터커넥터로 연결된 클러스터 환경에서 통합 제어하는 기술 개발을 목표로 한다. 오케스트로는 이를 통해 LLM의 학습 및 추론 성능을 높이는 자원 제어 및 관리 소프트웨어 인프라를 개발할 계획이다.
또한 오케스트로는 144억 원 규모의 ‘AI 반도체 클라우드 플랫폼 구축 및 최적화 기술 개발’ 과제에도 공동연구기관으로 참여한다. 올해부터 2029년까지 약 5년간 진행될 예정이다. 이 과제는 총 2단계로 구성된다. 1단계는 올해부터 2027년까지며, 2단계는 2028년부터 2029년까지 진행된다. 핵심 목표는 신경망처리장치(NPU)와 같은 AI 컴퓨팅 가속기를 클라우드 서비스 형태로 제공하고, 초거대 AI 모델의 학습 및 추론에 필요한 고성능 자원을 효율적으로 운용할 수 있는 클라우드 통합관리 플랫폼 구축이다.
오케스트로는 지난 2023년부터 초거대 AI 분야에 대한 투자를 본격화하며, 검색증강생성(RAG) 기반 챗봇 솔루션 ‘클라리넷’을 출시한 바 있다. 현재는 멀티모달 기반의 자체 파운데이션 모델을 2025년 하반기 공개를 목표로 개발 중이다. 이번 과제를 통해 AI 반도체와 클라우드 기술의 통합 실증 기반을 구축하고, 국산 AI 반도체 기반의 클라우드 환경에 최적화된 멀티모달 모델을 제공할 계획이다.
오케스트로 김범재 대표는 “이번 과제를 계기로 세계 최고 수준의 AI반도체 자원 분해 및 풀링 기술 개발 역량을 확보하고 K-클라우드 사업의 성공적인 연구개발 목표를 달성하겠다”며 “국내 AI반도체 기술 경쟁력을 높이고 초거대 AI 생태계 확산에도 기여하겠다”고 밝혔다.