그린워싱 만이 아니었다…“‘AI 에이전트 워싱’ 조심하세요” 경고등

[아이티데일리] 그린워싱(Greenwashing)은 기업 또는 단체의 상품 생산이나 경영 활동에서 친환경적이지 않은데도 친환경인 것처럼 허위 또는 과대광고 등을 통해 위장하는 행위를 말한다. 그 정도가 심해지자 한국에서도 공정거래위원회는 2023년 ‘환경 관련 표시에 관한 심사지침’과 ‘전자상거래 등에서의 소비자보호 지침’을 마련해 시행하고 있다.

이런 워싱 관행이 최근 3년 사이 혁명적으로 확산되고 있는 AI 분야에서도 일어나고 있다고 포브스지가 전했다. 바로 AI 에이전트 이야기다. AI 에이전트 공급자가 우후죽순처럼 늘어나면서 ‘AI 에이전트 워싱’이 문제가 되고 있다.

“자율형 AI”, “자기 주도형 에이전트”, “지적인 동료”라며 AI 에이전트를 소개하는 기사들이 쏟아지고 있다. AI 에이전트가 기술적으로 크게 발전해 회사 업무에 큰 도움이 되는 것은 사실이다. 계획을 세우고, 추론하며, 독립적으로 행동할 수 있는 도구로서의 AI 에이전트의 가능성은 확실히 혁신적이다. 그러나 ‘에이전트’라는 라벨이 붙어 있다고 해서 모두가 그 이름에 걸맞은 것은 아니다.

최근 들어 좋지 않은 징조가 눈에 띄기 시작했다. 실제로는 단순한 ‘챗봇’이나 ‘업무 자동화’에 불과한 것을 ‘AI 에이전트’라고 포장하는 기업이 늘어나고 있는 것. 이는 현재의 AI 열풍에 편승하기에 유리할 수는 있지만, 대가도 따른다. 사용자들을 혼란스럽게 하고, 고객을 실망시키며, AI 도구의 도입을 지연시킬 수 있기 때문이다.

에이전트 워싱을 어떻게 구분할 수 있는지는 가트너가 최근 보고서를 통해 알려주고 있다. 보고서는 AI 에이전트 열풍에 냉정한 시각을 가질 것을 제안한다. 수천 개의 에이전트형 AI 공급자 중에서 실질적으로 의미 있는 곳은 약 130곳에 불과하다고 추정하면서 진정한 AI 에이전트를 분별하는 눈을 가져야 한다는 것이다.

가트너의 아누슈리 바르마 분석가는 보고서에서 “현재의 에이전트형 AI 프로젝트 대부분은 과장된 광고에 이끌려 잘못 적용되는 초기 실험이나 개념 증명에 불과하다. 이 때문에 조직은 AI 에이전트를 대규모로 배포하는 데 필요한 진정한 비용과 복잡성을 간과하게 되고, 프로젝트의 본격적인 운영 단계로의 전환이 지체될 수 있다”라고 지적했다.

일부 기업들은 실제로는 ‘에이전트 능력’이 없는 단순 AI 어시스턴트나 챗봇을 에이전트로 둔갑시켜 브랜드를 재포장함으로써 문제를 악화시키고 있다고 한다.

주목받거나 투자 유치, 나아가 사용자를 확보하기 위한 것이라 하더라도, 경계가 모호해지면 혼란을 낳고 신뢰를 떨어뜨린다. 사용자는 ‘에이전트’라는 단어에서 지능과 자율성을 기대하지만, 그 기대가 충족되지 않을 경우, 제품과 브랜드의 이미지가 손상된다. 과장된 주장과 실망스러운 경험이 시장에 범람하면 진정한 진보가 오히려 지체될 수 있다.

시장에서 진짜 AI 에이전트와 그럴듯하게 포장된 LLM 기반 워크플로우를 구분하기란 쉽지 않다. 그렇다고 불가능한 것은 아니다. 스탠퍼드대 명예교수이자 AI21랩 공동 창립자인 요아브 쇼함은 MIT 테크놀로지 리뷰에서 “엄격한 기준이 꼭 필요한 것은 아니지만, 이 시스템이 무엇을 해야 하는지, 얼마나 자율적으로 작동하는지, 얼마나 신뢰성 있게 기능하는지에 대한 명확한 기대 설정이 필요하다”고 말했다. 세 가지 정도의 기준에 맞추어 운영하면 그 진위를 파악할 수 있다.

첫째는 자율적 의사결정이 가능한가의 여부다. 진짜 AI 에이전트는 인간이 계속 입력하지 않아도 상황을 평가하고, 선택지를 비교하며, 맥락에 따라 행동 방침을 정할 수 있어야 한다. 단순히 사전에 정해진 트리거에만 반응한다면, 그것은 단순 자동화일 가능성이 크다. 예를 들어, 은행 업무에서 진짜 에이전트라면 의심스러운 활동을 발견하는 것뿐만 아니라 지시 없이도 보호 조치를 취할 수 있어야 한다.

두 번째는 시간에 따라 학습하고 개선하는가에 있다. 사용자 행동에 적응하고, 전략을 다듬으며, 결과에 따라 조정할 수 있어야 한다. 여러 번 실행해도 항상 똑같이만 작동한다면 AI 에이전트가 아니다. 학습 능력이 없는 도구를 마케팅으로 속였을 가능성이 농후하다.

마지막으로 사용자와 협력할 수 있는가를 측정해야 한다. 쇼함 교수는 “아무리 똑똑한 에이전트라도 고립되어 있으면 쓸모가 없다”고 강조한다. 공유된 어휘와 맥락이 없으면 협업은 불안정해지고, 이를 대규모로 해결하기는 쉽지 않다. 협력과 협상을 가르칠 수는 있지만, 그것이 자동으로 이루어지는 것은 아니다. 그는 “엄청난 가능성이 있지만, 신중한 설계, 명확한 정의, 현실적인 기대가 함께해야 한다”고 강조한다.

AI 에이전트 워싱은 그린워싱과 마찬가지로 회의적인 시각을 조장하고, 도입을 늦추며, 열정을 실망으로 바꾸어 AI 생태계 전체를 해칠 수 있다.

가트너 보고서는 그러나 희망적인 전망도 동시에 제시한다. 2028년까지 일상 업무 의사결정의 최소 15%가 에이전트형 AI에 의해 자율적으로 이루어질 것이라는 예측이다. 보고서에 따르면 2024년에는 0%였다. 보고서는 또 2028년까지 엔터프라이즈 소프트웨어 애플리케이션의 33%가 에이전트형 AI를 탑재할 것으로 예상하는데, 이는 2024년 1% 미만에서 크게 도약하는 모습이다.

가트너는 진정 지능적인 도구가 이끄는 미래를 만들고자 한다면 ‘명확성’에서 출발해야 한다고 권고한다. 유행어를 쫓는 충동을 억제하고 실질적인 역량으로 현실의 문제를 해결하는 데 집중해야 한다는 것이다.