[아이티데일리] 생성 AI 챗GPT를 사용해 조사하거나 메일 초안을 작성하고 프로그램을 제작하는 일이 확산되고 있다. 그러나 일부 스파이웨어 기업이 최근 소셜미디어(SNS)를 이용하는 사람들을 감시하기 위해 생성 AI 도구를 사용하는 방법을 모색하고 있어 우려를 낳고 있다고 포브스 등 외신이 보도했다.

지난해 11월 파리에서 열린 국토안보 관련 국제박람회 밀리폴 파리(Milipol Paris) 행사에서 미국 온라인 감시업체 소셜링크스(Social Links)는 SNS 사용자의 감정을 분석하거나 그룹 내에서 논의되는 주제를 파악하는 감성 분석에서 생성 AI 쳇GPT 활용법을 시연했다. 경찰 등 법 집행기관은 생성 AI를 활용, 사람들의 온라인 활동이 폭력 사건으로 발전하거나 할 가능성을 예측할 수 있다.

러시아 기업가 안드레이 크리코프에 의해 2017년 설립된 소셜링크스는 현재 네덜란드와 뉴욕에 거점을 두고 있다. 메타(구 페이스북)는 2022년 후반 소셜링크스를 스파이웨어 기업으로 지정하면서 이 회사가 페이스북 데이터를 스크래핑하는 데 사용한 것으로 알려진 3700개 계정을 폐쇄한 바 있다.

그러나 소셜링크스 측은 메타의 주장을 부인하고 자사는 유럽과 북미 500여 개 고객에게 공공 안전을 위한 도구를 제공하고 있다고 강변했다.

그러나 미국자유인권협회(ACLU)는 챗GPT와 같은 생성 AI 도구를 SNS 감시에 사용하면 "인간에게는 불가능한 방식으로 사람들에 대한 감시 규모가 커질 가능성이 높다"고 경고하고 있다. 챗GPT 개발원 오픈AI는 동의 없이 개인을 추적하거나 감시하는 것을 포함해 '사람들의 사생활을 침해하는 행위'를 용납하지 않겠다고 밝힌 바 있다.

이에 대해 크리코프는 "우리는 오픈AI 정책을 엄수하고 있으며 콘텐츠 요약을 작성하거나 텍스트 내용을 분석하는 목적에 한해 챗GPT를 사용하고 있다"고 주장한다. 그럼에도 불구하고 소셜링크스 솔루션이 온라인상의 사람들의 활동을 감시하는 강력한 도구임에는 변함없다.

이 회사의 도구는 특정 키워드나 해시태그를 포함한 투고를 SNS로부터 검색해 올려, 챗GPT를 이용해 그 감정을 분석해 그래프화한다. 이 도구는 대형 SNS에서의 텍스트를 빠르게 요약·분석하는 것이 가능하다. 소셜링크스의 분석가 브루노 알론소는 박람회 시연에서 스페인의 총리 당선자가 카탈루냐 자치주 독립파 정치인을 사면해 물의를 빚은 결정에 대해 온라인 반응을 분석해 보였다.

또 SNS상에서 부정적인 발언을 한 인물의 얼굴을 특정하는 것도 가능한 것으로 알려졌다. 이 기능을 경찰이 이용하면 이 회사의 독자적인 알고리즘을 이용해 여러 SNS에서 특정 인물을 찾아내는 것도 가능해진다는 것이다. 알론소는 “가능성은 무한하다”라고 말했다.

기업들이 법 집행기관에 무기와 감시 기술을 파는 대형 전시회인 밀리폴에서는 AI에 초점을 둔 이벤트가 여러 회사에서 진행됐다. 이스라엘 스마트폰 감시 기술 대기업 셀리브라이트의 엔지니어 앤디 마틴은 챗GPT와 같은 대규모언어모델(LLM)은 경찰이 개인 통화기록을 조사해 수상한 움직임을 감지하거나 용의자 조사 보조로 활용하는 등 모든 법 집행기관의 활동에 도움이 된다고 말했다.

아울러 이탈리아 감시 기술기업 사이포게이트(Cy4gate)는 생성 AI를 이용해 익명의 수사관 아바타를 만드는 '젠스AI' 도구를 선보였다. 이 도구로 작성한 아바타는 페이스북이나 텔레그램 같은 플랫폼에서 AI 페르소나로 공개 가능한 것으로 알려졌다. 수사 당국이 용의자에 대한 정보를 수집하기 위해 가짜 계정을 사용하기는 하지만 이를 조작하는 것은 통상 AI가 아닌 인간 익명 수사관이다.

사이포게이트는 이 회사 아바타가 목표에 접근해 신뢰 관계를 구축하는 데 충분한 인간다움을 갖췄다고 주장하고 있다. 젠스AI는 30대 초반 여성 개인 트레이너로 위장한 아바타를 2019년부터 페이스북 등 SNS를 통해 공개하고 있었다.

소셜링크스와 사이포게이트의 도구를 결합하면 한 스파이웨어 회사가 만든 감시 소프트웨어가 다른 회사가 만든 AI 아바타를 감시하는 매우 기묘한 'AI 에코챔버'와 같은 상황이 생기게 된다. 감시용 AI 맞벌이의 시작이라는 지적이다.