기업 93%, 생성 AI가 초래할 위험 인식…대책 마련은 불과 9%

[아이티데일리] 위기관리에서 가장 효과적인 대책은 알려진 위협에 대비하는 것이다. 그러나 인공지능(AI), 특히 오픈AI의 챗GPT가 쏘아 올린 생성 AI가 가져올 위험에 대한 기업의 준비에 관한 새로운 조사에서 모든 기업에 경종을 울리는 결과가 나왔다.

리스크 관리 소프트웨어 기업 리스커넥트(Riskonnect)가 지난 6~7월, 전 세계의 리스크·컴플리언스 전문가 300명을 대상으로 실시한 조사 결과, 조사 대상 기업 중 빠르게 진화하는 생성 AI 기술의 위험에 대비하는 기업은 불과 9%였다. AI의 위험성에 대해 파악하고 있다고 응답한 기업은 93%에 달했지만, 위협에 대해 직원 대상 교육을 실시하거나 내막을 설명한 기업은 17%에 그쳤다고 포브스지가 보도했다.

미 조사업체 인사이더 인텔리전스의 보고서에 따르면 문서나 이미지 등 콘텐츠를 만들 수 있는 생성 AI는 향후 몇 년 안에 7780만 명의 사용자를 확보할 것으로 예상되고 있다. 이는 태블릿이나 스마트폰 보급률의 2배 이상 속도다.

◆ 주요 우려 사항

리스커넥트의 새로운 보고서 '신세대 리스크 보고: 2023년 이후 새로운 현실과 리스크 대응(The New Generation of Risk Report: Addressing the New Realities and Risks in 2023 and Beyond)'에 따르면 조사 대상 기업들이 AI에 관해 가장 우려하는 것은 데이터와 사이버 문제(65%), 잘못된 정보에 근거한 종업원 판단(60%), 종업원에 의한 부정 사용과 윤리 측면에서의 위험(55%), 저작권·지적재산권을 둘러싼 위험(34%), 차별 위험(17%) 등으로 나타났다.

짐 웨드캠프 리스커넥트 최고경영자(CEO)는 대부분의 기업이 생성 AI가 가져올 수 있는 최악의 시나리오에 대해 시뮬레이션을 하지 않고 있다는 사실은 놀라운 일이라며 더 많은 투자가 이루어져야할 것이라고 조언했다.

그는 “현재로서는 일어날 가능성이 낮은 위기가 내일은 피할 수 없을 수 있다. 파괴적인 결과를 초래할 수 있는 사태에 대비하는 계획을 수립하는 것은 조직이 새로운 위협이나 진화하는 위협을 극복하는 데 효과적인 회복력을 확보하는 데 필수적”이라고 지적했다.

◆ 위험성

컨설팅 기업 오센틱 소셜(Authentic Social)의 창업자 케이틀린 베그는 영업이나 마케팅에서 AI에 지나치게 의존하면 로봇처럼 무감정한 콘텐츠 또는 스팸 메시지 등을 보낼 수 있다고 설명한다.

영업팀이 고객의 요구나 관심을 담아내지 않은 메시지를 단순 전달만 하면 응답률은 떨어질 수밖에 없고 고객의 만족도는 급속도로 떨어진다고 경고했다.

컴플라이언스 관리 소프트웨어 기업 6클릭스(6clicks)의 헤더 부커 최고고객책임자(CCO)는 우선 잊지 말아야 할 것은 결국 AI는 조직의 강력한 기술 자산 중 하나일 뿐이라는 사실이라고 지적했다.

따라서 AI에 대해서는 위협과 취약성 감시 범위 내에서 정기적으로 위험 평가를 실시하고, 조직 내 다른 기술 자산과 마찬가지로 유지보수할 필요가 있다. AI를 자사 프로그램에 활용하려는 경영진은 투명성, 책임, 위협과 취약성 감시, 위험 경감을 우선해야 한다.

◆ 예방 조치

보고서는 AI에 의해 초래될 수 있는 폐해로부터 기업이나 조직을 보호하기 위해 할 수 있는 대책은 있다고 지적했다. 구직·커리어 자문 사이트 오버나이트 잡스(Overnight Jobs)의 최고인재책임자(CPO) 샬럿 애덤스는 예방 조치로 AI가 가장 도움이 되는 비즈니스 분야를 특정하고 그 분야에 AI를 통합하기 위한 전략을 세울 것을 주문했다.

애덤스는 또 클라우드 컴퓨팅, 데이터 분석, 머신러닝 도구 등 기술에도 투자해 데이터 인프라가 AI를 뒷받침할 수 있도록 해야 한다고 지적했다.

AI와 공존하는 훈련도 중요하다. AI를 활용해 업무를 보완하는 방법을 이해시켜야 한다는 것이다. 특히 AI의 윤리적 영향을 인식하고 책임 있는 AI 이용을 보장하는 규범과 지침을 수립할 것도 권고했다.