[아이티데일리] 기업들의 인공지능(AI) 기술에 대한 기대와 관심이 매우 높다. 가시적인 결과물들을 만들어내는 AI 챗봇과 이미지나 영상을 생성하는 시스템들이 다수 등장한 것 과 무관하지 않다. 하지만 기업의 관점에서 AI이 만들어 내는 결과물의 신기함 자체는 그리 중요한 문제가 아니다. 기업은 성과로 연결될 수 있는 ‘도구로서의 AI’를 잘 활용하는 것이 중요하기 때문이다. 그런데 AI 기술만 도입하면 기업의 성과는 자동적으로 만들어지는 것일까? 그렇지 않다면 AI을 활용해 성과를 얻기 위해서 기업은 어떤 조건을 충족해야 하는 것일까?

AI 성과에 대한 조사 결과

소프트정책연구소에서 2023년에 AI 기술 활용을 위해 투입한 자원 대비 성과가 얼마나 변화했는가를 국내기업 대상으로 조사한 결과를 발표했다. 평균적으로는 AI 기술 활용이 성과에 긍정적인 방향으로 영향을 미치는 것으로 나타났으나, 절반에도 못미치는 44.7%의 기업에서만 성과가 증가했고 7.5% 기업에서는 오히려 성과가 감소했다는 결과가 나왔다. 그리고 AI 기술 운용에서 내부 기술력 부족, 자금 부족, 성과 실현에 소요되는 시간 등을 어려움이라고 기업들이 응답했다.

큰 기대감을 가지고 AI 기술을 도입했을 기업들중 일부가 성과가 없었다는 조사결과는 상당히 충격적이다. 10~20% 또는 그 이상의 성과 향상을 목표로 가지고 AI 프로젝트를 시작한다는 점을 생각해보면 분명 AI 기술을 도입하고 운영하는 과정에서 어딘가 심각한 문제가 있어 보인다.

물론 이 조사가 이루어진 시기가 2023년 이전이므로 최근 큰 관심을 모으고 있는 생성 AI에 대한 도입과 활용 결과는 조사에 포함되지 않았다고 봐야 한다. 하지만 문제의 핵심이 알고리즘이나 기술 자체만이 아니라는 점에서 생성 AI 역시 유사한 잠재적 문제들에 영향을 받게 될 것으로 예상해 볼 수 있다.

세 가지 측면의 성과 창출 조건

AI 기술을 활용하는 기업이 어떻게 하면 성과를 얻을 수 있는지 그 조건들을 다음과 같이 입력, AI 시스템, 출력 등의 세 가지 영역의 관점으로 구분해서 정리해 보자. 우선 기업 업무용 AI에는 해당 업무와 관련된 양질의 데이터와 업무 규칙이 입력되어야 한다. 그리고 AI 시스템 자체에 대해서는 알고리즘과 운영시스템 등의 기능적인 완성도와 함께 개발 및 운영을 위한 인력과 하드웨어 및 소프트웨어 기반구조가 필요하다. 마지막으로 AI 시스템이 출력한 결과물을 활용하는 과정에서 수준 높은 사용자와 정비된 업무 프로세스와 명확한 활용 목표 설정이 요구된다.

입력: AI에 입력할 데이터와 규칙

AI 시스템의 결과물은 입력되는 데이터의 질과 양, 그리고 데이터를 사전에 처리하는 데 사용되는 업무 규칙에 크게 의존한다. 고품질의 데이터가 많을수록 AI는 더 정확한 예측과 결정을 제공할 수 있다. 판매 예측이나 상품 추천, 이상 탐지 등 기존에 사용해 오던 AI든 챗GPT와 같은 생성 AI 든 마찬가지다. 단순히 양, 즉 건수가 많다는 것만으로는 충분하지 않다. 기업 내부의 업무와 그에 영향을 미치는 외부적인 환경까지 중요한 요소들에 대해 빠짐없이 설명할 수 있는 데이터가 입력될 수록 더 나은 결과물이 나온다.

미래의 판매를 예측하는 AI 시스템을 예로 들어보면, 단순히 내부의 판매 데이터만으로는 정확한 예측이 불가능하다. 외부적인 환경의 변화 즉, 경쟁자의 동향, 소비자 인식의 변화, 정부 정책 또는 규제가 모두 기업의 판매에 영향을 주기 때문에 이에 대한 다양한 데이터들이 충분히 투입되어야 한다.

이미지를 생성하는 AI의 경우도 마찬가지이다. 신상품 디자인을 지원하기 위한 시스템이라면 검색 증강 생성(RAG : Retrieval Augmented Generation)와 같이 미리 학습된 기본 모델을 보충하기 위한 과정에서 자사 및 타사의 상품 디자인 이미지들이 충분히 그리고 다양하게 제공되어야 한다. 데이터의 다양성이 충족되지 못하면 특히 편향(bias) 문제가 심각해질 수 있다. 또 고객서비스를 위한 AI 챗봇이라면 매우 다양한 종류의 상품이나 절차에 대한 고객 질문에 답변하기 위해 필요한, 해당 시점 기준으로 정확하고 상세하며 최신 상태를 반영하는, 데이터가 제공되어야 한다.

이처럼 데이터 수집, 저장, 정제 프로세스 전반을 고도화해 AI에 투입할 수 있는 고품질의 풍부한 데이터를 확보해야 AI가 문제없이 작동되고 더 유용한 결과를 만들어 내며 업무에 기여할 수 있다.

AI 시스템 자체

생성AI 이전의 AI 시스템에서 특히 중요했던 문제는 알고리즘의 정확성, 학습 소요시간, 실시간 동작의 속도와 부하 등이었지만 새로운 고성능 알고리즘들이 속속 등장하고, GPU와 같은 하드웨어 활용, 클라우드 시스템의 도입으로 일시적인 부하를 감당하는 대책이 생겨나면서 점차 감당 가능한 상황으로 바뀌어 가고 있다는 점은 긍정적이다.

하지만 빠른 환경 변화로 인해 학습시킨 모델의 수명이 점차 짧아지고 있다. 지속적인 학습과 개선을 통해 성능을 유지하고 향상시켜야 한다. 새로운 데이터와 상황에 맞게 AI 모델을 주기적으로 업데이트하고 최적화해야 한다.

기존의 AI와 달리 생성AI에서 특별히 심각하게 나타나는 한계들도 존재한다. 생성AI 모델들이 정확하게 원하는 것과 일치하는 결과를 주지 않는 경우가 많다. 또 너무 일반적이라서 특정한 요구에는 유용성이 없는 결과가 나오기도 한다. 부분적으로 결과를 수정하려고 해도 세부적인 조절이 되지 않거나 된다고 하더라도 매우 까다로운 경우도 많다. 동작의 속도가 안정적이지 않기도 하고 결과물의 품질도 일정하지 않다는 점은 실제 업무에 적용하는 상황에서 특히 큰 문제가 된다. 특히 생성 AI의 경우라면 다양한 문제 상황에 대한 충분한 테스트를 지속적으로 수행해야만 한다. 알고리즘이나 모델, 또는 데이터의 약간의 변화만으로도 결과물이 이전과 크게 달라질 수도 있다.

AI 시스템을 개발하고 운영을 위한 인력의 양과 질을 체계적으로 관리해야 한다는 것도 AI 시스템 자체와 관련된 조건의 일부다. 기업의 업무에 맞춰진 AI 시스템을 내부 기술인력이 전혀 없는 상태로는 운영하기 어렵다. AI에 특화된 전문인력은 매우 부족하지만 도입 초기인 생성 AI에서 그 문제는 더 심각할 수밖에 없다. 전문인력 이탈로 인해 AI 시스템 운영을 중단하거나 폐기할 수밖에 없는 경우까지도 발생할 수 있다. 또 운영을 위한 하드웨어 및 소프트웨어 기반구조 역시 업무 운영에서 문제가 발생하지 않을 수준의 자동화와 용량, 연결의 완성도가 보장돼야 한다.

출력: AI 시스템을 활용할 인력과 프로세스, 목표

기업 내에서의 성공적인 AI 기술 활용은 기술 자체 이상으로 인간 측면 요소와 프로세스에 크게 의존한다. AI 시스템이 독자적으로 작동되는 경우도 있지만 많은 경우 기업 내 AI 활용은 인간의 판단을 지원하고 작업을 보조하는 역할을 한다. 아무리 좋은 결과물을 안정적으로 생산하는 AI 시스템이 있더라도 이를 활용할 사용자와 프로세스가 체계적으로 구축되어 있지 않다면 제대로 효과를 낼 수 없다. AI 기술을 활용하는 방법에 대한 지속적 교육을 통해 직원들의 AI 역량을 강화해야 하는 이유이다.

기존의 프로세스가 AI 시스템을 활용하는 방식으로 변경되는 경우 AI 시스템과 연결된 다른 시스템들을 포함하여 새로운 프로세스 전체를 설계하고, AI 결과물을 통합하고, 각 단계 및 전체 프로세스를 모니터링하고 평가하는 구조가 마련되어야 한다. 여기서 새로운 프로세스는 단순히 일부 단계를 자동화하는 것만이 아니라 새로운 방식으로 프로세스를 변경하는 것일 수도 있다.

또 실현 가능한 업무 목표를 명확하게 설정하는 것 역시 중요하다. 이는 AI를 사용하여 해결하고자 하는 문제가 구체적이어야 하며 그것에 따라 AI가 어떤 결과물을 만들어내야 하는지, 어느 범위까지 역할을 수행할 것인지를 상세하게 정해야 한다는 것을 의미한다. 예를 들면 동일한 데이터와 알고리즘을 사용하는 상품추천 AI 시스템이라 하더라도 목표가 장기적인 고객 로열티를 높이려는 것인 경우와 고객이 이미 관심이 있는 상품을 즉각 구매하도록 하려는 경우는 서로 다른 모습이 될 것이며 그에 따라 업무 성과도 달라질 것이다.

국내외적인 경쟁이 갈수록 치열해지고 있다. AI라는 이름이 큰 성과를 약속하는 마치 장밋빛의 꿈과도 같이 들릴 수도 있다. 하지만 AI라는 기술이 제공하는 성과는 공짜가 아니고 무조건 성공이 보장되는 것이 아니다. 국내에서도 AI 기술이 기업 업무에 적용되었으나 결과물에 대해 부정적인 평가를 받거나 활용도가 낮아서 폐기된 경우가 많았던 것이 사실이다. 실질적인 성과를 얻고자 한다면 무엇에 집중할 것인지에 대한 전략과 더불어 여기서 살펴본 것들과 같은 많은 사전 준비가 필수적일 것이다.