[아이티데일리] 디지털미디어 조사기업 더블베리파이(Double Verify)의 새로운 리포트에 따르면 생성형 AI로 생성한 엄청난 수의 별 다섯짜리 고평가 가짜 리뷰가 모바일과 스마트TV 앱스토어에 넘쳐나고 있다.

포브스 보도에 따르면 더블베리파이는 리포트에서 "회사의 부정 대책 연구소가 조사한 결과 2024년 들어 최근까지 게시된 AI로 인한 가짜 리뷰가 2023년 같은 시기와 비교해 3배 이상 급증한 것을 확인했다"고 밝혔다.

가짜 리뷰는 언뜻 보면 피해자가 없는 범죄처럼 보일 수 있다. 그러나 광고 조회 수가 극단적으로 많은 악성 앱이 가짜 리뷰로 인해 상위권 순위에 진입하게 되면, 최신 앱을 찾는 사용자가 해당 앱을 내려받을 가능성이 높아진다. 큰 피해로 연결될 수 있다는 의미다.

더블베리파이에 따르면, 이러한 악성 앱 중에는 사용자의 스마트폰을 탈취해 끊임없이 광고를 강제로 표출시키는 것도 있다고 한다. 이로 인해 사기꾼들은 수익을 챙기게 되고, 반대로 스마트폰 이용자들은 원치 않는 광고를 보아야 함은 물론 배터리 등 하드웨어 자원을 과도하게 소모하게 된다.

더블베리파이는 특정 기업이나 앱의 이름을 거론하지 않았지만, 조사에 따르면 "생성형 AI로 만들어 붙인 가짜 별 다섯 개 평가가 수천 개나 붙어 있는 앱이 존재한다"고 한다. 가짜 리뷰는 이전부터 앱스토어나 구글플레이에 있어 왔지만, 생성형 AI는 진짜로 현혹될 가짜를 만들어내는 것이 가능하다.

조사 결과 스마트TV 앱 중에서는 여러 리뷰에서 중복된 문구가 사용된 것이 다수 존재했으며, 이들은 모두 별 네 개 또는 별 다섯 개 리뷰였다. 스트리밍 분야에서는 아무도 보지 않는 광고를 판매하기 위해 가짜 트래픽을 생성하는 사이클론봇으로 불리는 광고 사기 도구의 가짜 리뷰도 발견됐다.

보고서는 “생성형 AI를 이용한 가짜 리뷰는 모든 타입의 앱스토어에서 발생하고 있다. 예를 들어, 인기 스마트TV 플랫폼상의 스트리밍 앱을 분석했더니 리뷰의 50%가 가짜였다”고 지적했다.

2023년 약 100만 건의 리뷰를 분석한 조사에 따르면 구글플레이 인기 앱의 25%에 의심스러운 리뷰가 포함됐으며 앱스토어 상위 앱의 17%도 비슷한 문제를 안고 있었다. 특히 문제가 지적된 분야는 게임이나 건강·피트니스 관련 앱으로, 이들 카테고리는 인기가 있으면 단기간에 큰 이익을 올릴 수 있다.

더블베리파이는 가짜 리뷰에는 몇 가지 특징이 나타난다고 지적했다. 대표적으로 '다른 리뷰에 같은 문체가 사용되고 있는 것, 특정 투고자가 복수의 고평가 리뷰를 달고 있는 경우, 특정 플랫폼에만 존재하는 투고자에 의한 리뷰 등이 거론된다.

생성형 AI가 더 진화를 이어간다면 이들의 가짜 리뷰를 파악하기는 더 어려워질 것으로 보인다. 애플이나 구글은 앱 리뷰가 진짜 사용자에 의한 것임을 확인하기 위한 투자를 늘릴 필요가 있다고 보고서는 지적했다.