도메인 특화 LLM 토대로 업무 정확성 및 데이터 프라이버시 최적화

서비스나우코리아 박혜경 한국 대표 겸 지역 부사장
서비스나우코리아 박혜경 한국 대표 겸 지역 부사장

[아이티데일리] 서비스나우는 ‘나우 플랫폼(Now Platform)’의 확장을 발표했다고 21일 밝혔다.

이번 나우 플랫폼 밴쿠버(Vancouver) 릴리스에는 나우 플랫폼 모든 워크플로우에 생성형 AI를 탑재한 IT서비스 관리(ITSM), 고객 서비스 관리(CSM), HR 서비스 제공(HRSD) 및 크리에이터(Creator)를 위한 ‘나우 어시스트(Now Assist)’가 포함된다.

먼저 나우 플랫폼에 적용된 생성형 AI는 범용 LLM 또는 서비스나우가 개발한 모델이다. 현재 마이크로소프트 애저 오픈AI 서비스 LLM(Microsoft Azure OpenAI Service LLM)과 오픈AI (OpenAI) API에 대한 액세스를 포함한다. 나우 플랫폼 속 도메인 특화 LLM은 서비스나우의 워크플로우, 사용 사례 및 프로세스를 위해 설계됐다. 서비스나우를 사용하는 상담원, 직원, 고객 및 IT 관리자에게 맞춤화돼 있다.

검색용 나우 어시스트는 엔비디아 니모(NeMo) 프레임워크를 기반으로 한 서비스나우의 특화 LLM에 기반해 구동되며 엔비디아 AI 엔터프라이즈 SW 플랫폼의 일부인 ‘엔비디아 트라이톤(Triton) 추론 서버 SW’를 사용해 제공된다.

나우 어시스트는 △케이스, 인시던트 및 에이전트 채팅 요약 △버추얼 에이전트 △검색 기능과 같은 생성형 AI 기능을 포함해 다양한 시나리오와 기능에 적용할 수 있다. 직원, 에이전트, 개발자 등 모든 사용자가 생성형 AI 기능을 활용할 수 있다. 해당 접근 방식을 통해 기업은 어떤 부서에도 생성형 AI를 도입할 수 있으며 비즈니스의 다른 부분까지 신속하고 쉽게 확장할 수 있다.

먼저 ITSM용 나우 어시스트는 기업 IT 리더들이 IT 경험을 주도적으로 관리할 수 있도록 지원해 에이전트의 생산성을 높이고 직원 경험을 개선할 수 있다. 케이스, 인시던트 이력 및 실시간 버추얼 에이전트 상호 작용을 통해 검색 결과 대신 완전한 답변을 제공해 IT지원 담당자는 사용자에게 반복해서 요청할 필요 없이 문제 및 요청을 보다 빠르게 처리할 수 있다.

다음으로 CSM용 나우 어시스트는 고객 서비스 프로세스를 처음부터 끝까지 간소화해 상담사의 생산성을 높이고 잠재적인 비용 절감과 개선된 고객 경험을 끌어낼 수 있다. CSM용 나우 어시스트는 사례 및 채팅에 대한 빠른 요약을 신속하게 생성해 수작업을 줄이고 상담사가 고객 문제를 빠르게 해결할 수 있도록 돕고, 고객은 빠른 답변을 찾을 수 있도록 지원하는 리소스에도 액세스할 수 있어 자체 서비스 경험을 개선, 사례 편향 및 비용 절감 효과를 더 높일 수 있다.

HRSD용 나우 어시스트는 HR리더들이 생산성과 운영 효율성을 향상하고 HR부서의 중복된 수작업을 줄이며, 직원들이 필요로 하는 답변을 신속하게 얻을 수 있다. HR 관리자는 사례 주제의 즉각적인 요약, 라이브 채팅 및 버추얼 에이전트 상호 작용에서의 이전 이력, 이전 해결책 및 조치를 검토해 많은 정보를 일일이 살펴볼 필요 없이 급여 불일치 문제부터 서류 작업 변경 문제까지 처리할 수 있다.

FSM용 나우 어시스트는 현장 서비스 팀이 생성형 AI를 통해 더 나은 선제적 경험을 제공하고 생산성을 가속할 수 있도록 지원한다. 이 솔루션은 생성형 AI를 사용해 모든 작업, 부품 및 부가 데이터에 접근하여 업무 지시 작업을 요약하며, 이는 현장을 이동하며 모바일 기기로 가장 중요한 작업을 처리하는 현장 기술자에게 매우 적합하고 중요한 기능이다. FSM용 나우 어시스트는 작업 지시 프로세스를 간소화해 문서 작성, 규정 준수, 일관성, 기술자 및 고객 경험을 개선한다.

서비스나우 CJ 데사이(CJ Desai) 최고운영책임자는 “조직들은 역동적이고 빠르게 움직이고 있는 지능의 시대를 헤쳐 나가기 위해 신뢰할 수 있는 파트너를 찾고 있다”며 “이미 수천 고객사가 나우 플랫폼을 통해 기업 전반의 프로세스를 디지털화하고 간소화하고 있다. 밴쿠버 릴리스를 통해 서비스나우는 나우 플랫폼의 강력한 기능과 AI 기능을 결합해 비즈니스 모든 영역에 AI 기반 지능을 제공해 생산성을 가속화하고 더 나은 기업 경험을 구축하기 위해 노력을 기울이고 있다”고 말했다.

저작권자 © 아이티데일리 무단전재 및 재배포 금지