[아이티데일리] 사이버 범죄자들이 오픈AI(인공지능)의 인공지능 챗봇인 챗GPT(ChatGPT)를 악용해 악성코드를 배포하거나 실존하지 않는 여성과의 대화를 꾸며내는 봇을 만들어 연애사기를 저지르려 하고 있으며, 이 같은 사례는 앞으로 크게 늘어날 것이라고 보안 전문가들이 예측했다.

포브스지 보도에 따르면 보안 전문가들은 사이버 범죄자들이 챗GPT를 사용해 짧은 시간에 해킹 툴을 만들고 있다고 경고했다. 사기꾼들은 이 도구를 이용해 젊은 여성 행세를 하는 봇을 구축하는 사례가 급증하고 있다고 한다.

지난해 11월 말 출시된 챗GPT가 랜섬웨어를 만드는 데 사용될 가능성이 있음은 오래전부터 제기됐다. 이스라엘 보안업체 체크포인트의 보고서에 따르면 언더그라운드 범죄 포럼에서 실제 사용 사례가 확인됐다. 보고서에 따르면 과거 안드로이드용 멀웨어를 공개했던 해커가 특정 파일을 훔쳐 압축하고 웹을 통해 전송하는 코드를 선보였는데, 이 코드는 챗GPT로 작성된 것으로 밝혀졌다. 또한 컴퓨터에 백도어를 설치하고, 감염된 PC에 또 다른 악성코드(멀웨어)를 업로드할 수 있는 도구도 소개했다.

같은 포럼에서 다른 사용자는 파일을 암호화하기 위한 파이썬 코드를 공유했으며 오픈AI 앱이 파일을 만드는 데 도움이 되었다고 한다. 체크포인트에 따르면 이 코드는 타인의 시스템을 암호화하기 위한 도구로 쉽게 개조할 수 있다. 그 포럼에는 해킹당한 기업의 서버 접속 권한이나 도난당한 데이터를 판매하는 사용자도 있었다고 보고서는 밝혔다.

실크로드 등 마켓플레이스의 기능을 챗GPT로 코드화해 악용할 가능성도 제기됐다. 이 사용자는 가상의 결제 시스템을 위해 암호화폐 가격을 모니터링하는 앱을 챗봇으로 신속하게 구축하는 방법도 게시했다.

사이버 정보회사 홀드시큐리티의 창업자인 알렉스 홀든은 연애사기를 치는 사이버 범죄자들이 페르소나(배우들이 가면극에서 썼다가 벗었다가 하는 가면)를 만드는데 챗GPT를 이용하기 시작했다고 우려했다. 그는 "젊은 여성 행세를 하는 챗봇으로 남성을 유인해 자동화된 대화에 끌어들이고 있다"고 지적했다. 챗GPT가 생성한 코드는 현재는 단순하지만 사이버 범죄자들이 보다 세련된 코드로 완성하는 것은 시간 문제일 뿐이라고 설명했다.

미국 보안기업 포어스카우트의 릭 퍼거슨 부사장은 챗GPT와 같은 오픈AI 툴은 단순하지만 효과적인 멀웨어를 생성할 수 있도록 함으로써 초보자가 불법 시장에 들어오는 진입장벽을 낮출 것이라고 주장했다.

퍼거슨은 또 사용자를 속여 정보를 공유하게 하는 악성 웹사이트 구축에도 챗GPT가 사용될 위험성이 있다고 밝혔다. 그는 "챗봇은 악성 웹 페이지, 고도로 표적화된 피싱 운영 목적으로도 이용 가능하다"고 부연했다.

체크포인트는 챗GPT의 악용을 막기 위해 규제 강화가 필요하다고 지적했다. 오픈AI는 악성 툴 생성을 방지하기 위해 몇 가지 제어 기능을 제공했지만, 해커는 이를 회피할 방법을 찾았다. 오픈AI와 같은 회사들은 자사 툴의 악용을 방지하기 위한 대응책 도입을 법적으로 강제해야 한다는 주장이다.