[기고] 성공적인 AI 에이전트 도입을 위한 길라잡이

[아이티데일리] 생성형 인공지능(AI) 열풍은 이제 AI 에이전트로 이어지고 있다. AI 에이전트는 단순한 콘텐츠를 생성하는 수준을 넘어, 실제 행동을 통해 새로운 차원의 생산성과 효율성을 구현한다. 이와 같은 장점들로 인해 많은 기업들은 워크플로우와 생산성, 혁신을 재정의하기 위한 AI 에이전트를 도입하고 있다. 하지만 어디에 중점을 두고 도입해야 할지에 대한 고민과 어려움은 여전하다. 클라우데라는 최근 전 세계 IT 리더들을 대상으로 실시한 설문조사를 통해 이러한 고민에 도움을 주고자 한다.

“생성형 AI 오케스트레이션에 AI 에이전트 도입 예상”

해당 설문조사에 따르면, 많은 응답자들은 AI 에이전트의 도입이 시급하며 이에 대한 투자와 노력이 충분한 ROI를 가져올 것으로 기대하고 있다. 응답자의 96%는 향후 12개월 내 AI 에이전트 활용을 확대할 계획이라고 밝혔으며, 이 중 절반은 전사적으로 대규모 확산을 목표로 하고 있다고 응답했다.

특히 고객 지원(78%), 프로세스 자동화(71%), 예측 분석(57%) 등 명확한 ROI를 기대할 수 있는 영역부터 AI 에이전트가 도입되고 있는 것으로 나타났다. 이는 국내에서도 통신 산업에서의 고객 지원(33%), 유통 및 이커머스 산업에서의 수요 예측(44%)에 주로 쓰이면서 글로벌과 비슷한 경향을 보였다.

IT 헬프데스크 자동화나 사이버 공격에 선제 대응하는 예측 분석처럼, 이들 분야는 자동화를 통해 실질적인 성과를 창출할 수 있는 여지가 크다. 이 같은 AI 에이전트 도입과 확산 과정에서 노코드 도구는 성공을 위한 핵심 요소로 작용한다.

설문에 참여한 기업의 98%는 생성형 AI 활용을 위한 오케스트레이션에 이미 AI 에이전트를 사용하고 있거나 가까운 시일 내 도입할 계획이라고 응답했다. 생성형 AI의 역량과 에이전틱 AI 애플리케이션의 긴밀한 결합이 높은 ROI를 실현하는 핵심 열쇠라고 볼 수 있다.

생성형 AI 어시스턴트는 기존에 인간이 시간 부족으로 수행하지 못했던 업무를 대신 처리함으로써 인력의 효율을 높이고 부서 역량을 강화하지만, 주로 소수 개인에게 국한된 효과로 나타나는 경우가 많다.

반면에 AI 에이전트는 조직 전체에 걸쳐 역량을 확장하는 엔진으로 작용한다. 예를 들어 공급업체 계약에 대한 요약 및 조항 관리 기능은 파트너 및 고객 계약으로까지 확장할 수 있으며, 핵심 마케팅 메시지를 학습하면 모든 대외 커뮤니케이션 담당자가 이를 활용할 수 있게 된다.

이와 함께, AI 에이전트는 전문화된 대규모언어모델(LLM)을 활용해 복잡한 과제를 계획하고 조율하며, 최적의 행동 방식을 도출하기 위한 추론도 수행할 수 있다. 노코드 도구를 사용해 API가 에이전틱 프레임워크에 통합됨에 따라, AI 에이전트는 조직 내 다양한 워크플로우에서 점점 더 많은 일상 업무를 수행할 수 있게 되고 ROI 또한 폭발적으로 상승하게 될 것이다.

“AI 에이전트 자율성 커질수록 책임성과 투명성 확보 고려해야”

그러나 AI 에이전트의 자율성이 커질수록 그에 따르는 책임성과 투명성 확보는 AI 에이전트 도입을 고려하는 IT 리더들이 가장 고민하는 지점이다. 설문조사에 따르면, 응답자의 절반 이상(51%)이 AI 시스템 내 편향성에 대한 심각한 우려를 갖고 있다고 밝혔다.

현재 기업들은 책임 있는 운영과 적절한 거버넌스를 확보하기 위한 노력을 기울이고 있다. 응답자 중 38%는 사람에 의한 검토, 다양화된 학습 데이터, 체계화된 공정성 감사를 포함한 절차를 도입하고 있으며, 36%는 일정 수준의 편향 점검 체계를 갖춘 것으로 나타났다.

이와 함께 데이터 품질과 가용성 문제는 여전히 AI 도입과 관련한 가장 큰 기술적 과제로 남아있다. 이것을 해결하기 위해서는 유연하고 강력한 엔터프라이즈 데이터 인프라를 구축할 필요가 있다.

AI 에이전트는 생성형 AI 어시스턴트보다도 더 빠른 속도로 도입될 것이다. 따라서 올해는 행동에 옮겨야 할 시점이다. 적절한 도구와 신뢰할 수 있는 파트너를 갖춘 기업만이 성과를 창출하고 시장에서 앞서나갈 수 있을 것이다.