AI가 만든 딥페이크…사기 범죄 넘어 '가짜 명소 소개' 관광 산업까지 침투

[아이티데일리] 인간 지능에 도전하는 생성형 인공지능(AI)이 만들어 낸 가짜 관광지 영상이 동영상 공유 플랫폼 틱톡(TicTok)dp 게재됐다. 여기에 속은 말레이시아 노부부는 애초에 존재하지도 않았던 명소를 찾아 수백km를 운전했고, 결국 망연자실로 끝났다고 패스트컴퍼니가 전했다. 이런 사실이 알려지면서 AI 기술의 부작용에 대한 우려가 커지고 있다.

패스트컴퍼니에 실린 이 사기극은 지난 6월 말 벌어졌다. 말레이시아 수도 쿠알라룸푸르에 거주하는 노부부는 틱톡에 게재된 관광 안내 동영상을 보고 세 시간 떨어진 페락주의 ‘쿠악 스카이라이드(Kuak Skyride)’라는 케이블카 관광지를 찾았다. 틱톡에 게시된 영상에서는 숲과 산을 가로지르는 케이블카를 타는 장면과 TV 리포터가 만족한 관광객들을 대상으로 인터뷰를 진행하는 모습이 나왔다. 실제 관광지로 믿을 수 밖에 없었다고 한다.

그러나 그런 명소는 존재하지 않았다. 사기 영상은 구글의 생성형 AI 엔진 'Veo3'로 제작된 가상의 콘텐츠였던 것으로 드러났다. 소박한 호텔 직원에게 문의한 결과, 그 영상은 AI로 만들어진 딥페이크의 일종임을 알게 됐다. 인터뷰했던 기자 역시 존재하지 않는 AI가 만든 가상의 인물이었다.

영상은 ‘TV Rakyat’이라는 틱톡 채널에 게시된 것으로, 실제 방송국처럼 보이지만 AI로 생성된 가짜 매체다. 영상에는 전문 리포터가 등장해 현장을 취재하고 관광객들과 인터뷰하는 장면이 담겨 있어 사실감을 더했다.

우리나라에서도 AI 기자 중심 매체가 존재를 드러내고 있다. 생성형 AI가 기사도 써 주고, 홈페이지 편집까지 한다. 프롬프트에 적절할 검색 단어만 알려주면 AI가 훌륭히 기사를 작성한다. 이를 홈페이지 화면에서 편집도 하고, 포털에 잘 노출될 수 있도록 적절한 단어까지 구사한다. 기자가 없어도 언론사를 운영할 수 있는 시대가 열리고 있는 것.

패스트컴퍼니에 실린 사례도 방법론 면에서는 크게 다르지 않다. 차이가 있다면 틱톡의 가짜 매체는 딥페이크 수법의 사기극에 가까운 영상이라는 점이다. 노부부의 사례는 직접적인 피해가 없었지만, 가짜 매체가 상거래 기능까지 더해 온라인 여행사를 운영하고 요금 결제 기능까지 갖춘다면 금전적인 피해로 연결될 수밖에 없다.

말레이시아의 사례도 AI가 만든 영상 콘텐츠가 현실과 구분되지 않을 정도로 정교해지면서 발생한 대표적 피해다. 전문가들은 이를 단순한 해프닝이 아닌 ‘현실 감각의 침식’으로 경고하고 있다.

이 사건은 전 세계적으로 증가하는 AI 기반 딥페이크 사기와 허위 정보 확산의 흐름 속에서 나타난 전형적인 예다. CNBC가 보도한 신원 확인 인증 서비스 기업 시그니캣(Signicat)의 2025년 통계에 따르면, 전 세계 사기 시도 중 딥페이크 영상이 차지하는 비중은 3년 전 0.1%에서 현재 6.5%로 급증했다. 딥페이크 건수만 비교하면 이는 2,137% 폭증한 수치이며, 사기 사건 15건 중 1건은 AI가 연루돼 있다는 것이다.

실제 피해 사례도 속출하고 있다. 뉴욕타임스에 따르면 미국의 한 은퇴자는 딥페이크로 조작된 일론 머스크의 투자 홍보 영상을 보고 은퇴 자금 69만 달러를 모두 잃었다. 평생 저죽한 돈이 디지털 블랙홀로 빨려 들어갔다. 영국의 대형 엔지니어링 회사 에이럽(Arup)는 AI가 만든 회사 CFO와 직원들의 딥페이크 영상 회의에 속아 2,500만 달러 손실을 입었다. 미국 메릴랜드의 한 고등학교 교장은 AI로 조작된 음성 파일로 인해 인종차별 발언자로 몰려 사퇴 압박과 생명의 위협을 받았다. 교장의 신뢰를 떨어뜨리기 위해 한 선생이 조작하고 유포한 것이었다.

관광 산업 역시 AI 기술의 확산으로 심각한 영향을 받고 있다. 앞서 예로 든 노부부 이야기가 상황의 심각성을 일러준다. 소셜미디어는 여행을 '셀카 관광'으로 바꾸었다. ‘힐링’, ‘체험’ 등 실제 여행의 의미를 왜곡하는 측면이 강하다. 그런 가운데, 이제는 존재하지 않는 장소마저 현실처럼 느끼게 만드는 수준에 이르렀다.

유네스코는 UN 홈페이지에서 관광객들이 더 이상 문화 체험을 위해 여행하지 않고, SNS용 사진 촬영을 위해 명소를 방문하는 경향에 대해 경고한다. 실제로 디즈니 ‘겨울왕국’의 모티브가 된 오스트리아의 할슈타트, 이탈리아 포르토피노, 베니스 등은 과도한 인플루언서 방문으로 인한 피해에 시달리고 있다. 일부 지역에서는 셀카 촬영을 제한하거나 위반 시 최고 300달러까지 벌금을 부과하고 있다. 포르토피노가 그렇다.

나아가 AI가 만든 가상의 여행 인플루언서들이 SNS와 마케팅에 활용되는 사례도 늘고 있다. 독일 관광청은 2024년 AI가 만든 가상 인격체를 활용한 온라인 관광 캠페인을 공식적으로 운영하기도 했다. 이런 경우는 긍정적인 사용 사례다. 공적 기관에서 책임을 지고 운영하기 때문이다. 문제는 사적인 악용이다.

AI 기술이 악용되면 사회 전반에 걸쳐 새로운 형태의 신뢰 위기를 초래한다. 이에 대한 규제 또는 규범, 적절한 교육을 통한 대응 등이 시급한 실정이다. 이미 "기술의 속도를 따라잡기에는 현실적인 대응이 너무 늦었다"는 비관적 전망도 나오고 있는 실정이다.