봇이 만든 가짜 계정 범람…오픈AI 등 3천 기업, 수억 명 회원 인증에 ‘페르소나’ 활용

[아이티데일리] 현대 인터넷은 봇으로 넘쳐난다. 인터넷의 전체 트래픽 중 약 50%가 인간의 손을 빌리지 않은 콘텐츠로 추정된다. 사람들이 AI 에이전트에게 다양한 작업을 대행하게 함으로써 이 비율은 2030년까지 90%까지 치솟을 것으로 예상되고 있다.

AI가 더해지면서 가짜 계정과 정보가 확산되는 등 문제는 더욱 악화되고 있다. 캡차(CAPTCHA)라는 종래의 봇 탐지 기술은 고급 AI 모델에 의해 쉽게 뚫릴 수 있다. 이는 기업에 더욱 심각한 문제가 된다. 봇이 인기 제품을 사들이거나 은행에서 정상적인 계좌를 탈취하는 등에 악용될 수 있기 때문이다.

이를 막는 솔루션을 제공하는 페르소나(Persona)가 유통 및 금융 산업 등의 관심 속에 비약적으로 성장하고 있다고 포브스지가 전했다. 페르소나는 샌프란시스코에서 설립된 스타트업으로 AI 기술로 신원 확인 플랫폼을 제공하고 있다. 이 회사의 공동 창업자이자 CEO인 릭 송은 “AI는 사람의 목소리를 흉내내고, 얼굴을 위장하며, 가짜 신분증을 만드는 것을 무척 용이하게 만들었다”고 말했다.

페르소나는 오픈AI나 링크드인, 레딧, 도어대시와 같은 대기업을 포함해 약 3000개 회사에 신원 확인 소프트웨어를 제공하고 있다. 페르소나는 정부가 발급한 ID의 사진을 업로드하거나, 셀카 사진을 찍게 하거나, 여권에 내장된 NFC칩을 스캔하게 하는 등 여러 수단을 조합해 사용자에 대한 신원을 확인한다.

페르소나는 또 고위험군으로 간주되는 사용자에게 생체확인 테스트를 받도록 요구하기도 한다. 사용자에게 ID를 손에 들고 얼굴을 움직이라고 요청해 사용자가 실제 사람인지, ID 신원을 확인하는 것이다. 또 회사의 기계 학습 모델은 사용자가 이용하고 있는 네트워크나 현재 위치와 ID에 기재된 주소와의 거리, 장치와의 상호작용 등을 기반으로 위험을 감지할 수 있다.

2018년에 설립된 페르소나는 지난달 말 기업가치 평가액 20억 달러로 2억 달러를 조달했다고 발표했다. 이번 시리즈 D 라운드를 주도한 것은 파운더스 펀드와 리빗캐피탈로, 기존 투자자인 인덱스벤처스 등도 참여했다. 송 대표에 따르면 페르소나의 누적 조달액은 총 4억1700만 달러에 달한다.

오픈AI는 페르소나를 이용해 챗GPT 및 API에 등록하려는 세계 225개국 수억 명의 사용자를 선별하고, 국제 감시 및 제재 목록에 오른 인물이 숨어들어와 유해한 목적이나 범죄에 자사 모델을 사용하는 것을 막고 있다.

온라인 학습 플랫폼 코세라(Coursera)는 세계 200개국 1억 6800만 명의 사용자가 수강하는 수업을 바탕으로 본인을 검증하기 위해 페르소나를 도입했다. 음식 배달 벤처기업 도어대시는 코로나19 대유행 기간 동안 플랫폼에 몰린 배달 기사의 신원 확인을 위해 페르소나를 도입, 정부가 발급한 ID와 셀카 사진을 대조하는 작업에 이용했다.

사이버보안기업 임퍼바(Imperva)가 발표한 2024년 보고서에 따르면 미국 기업들은 AI 기반 공격으로 매년 180억~310억 달러의 손실을 보고 있다. 봇 공격에 의한 전 세계 피해는 680억~1160억 달러에 이른다. 전형적인 악용 예로는, 봇을 이용해 가짜 계정을 대량으로 만들어 추천 크레딧이나 할인, 프로모션 등의 혜택을 부정하게 취득하는 것이다.

물론 합법적인 사용례도 있다. 시각 장애자가 인터넷에 접속하기 위해 AI를 이용, 정당한 이유로 봇을 사용하는 경우 등이다. 임퍼바에 따르면 2024년에는 정당한 목적의 봇이 자동화 트래픽의 14%를 차지했고 악의적인 봇은 인터넷 활동의 37%를 차지했다.

시장조사 기관 가트너에 따르면 페르소나는 본인 확인 시장에서 비교적 새로운 플레이어다. 페르소나의 경쟁사로는 2021년 상장한 공항 전용 생체 인증 플랫폼 클리어 시큐어(Clear Secure)와 AI를 활용한 본인 확인 도구 주미오(Jumio)등을 들 수 있다. 또 다른 새로운 기업으로는 오픈AI CEO 샘 알트먼의 월드코인(Worldcoin)이 있다. 월드코인은 '오브(orb)'라는 구체형 생체인증 장비로 사람의 홍채를 스캔하고 그 대가로 암호화 토큰을 제공하는 상당히 색다른 방법으로 신원을 확인하고 있다.

가트너는 딥페이크의 위협이 증가하는 가운데 기업들이 더욱 신중해지고 있으며, 이는 온라인상의 위험 신호를 활용하는 페르소나에게는 큰 비즈니스 기회가 될 수 있다고 평가했다.

페르소나가 창업한 2018년 무렵, 본인 확인 업무는 주로 동유럽 기업 등에 의해 수작업으로 이루어졌다. 손 대표의 아이디어는 신원 확인을 수작업 대신 소프트웨어로 대체한다는 것이었다.

송 대표는 잭 도시가 창업한 핀테크 기업 스퀘어(현재는 Block으로 개명)에서 엔지니어로 5년간 근무하며 신원 확인 및 사기 방지 솔루션 개발을 담당했다. 스퀘어는 2010년대 초, 결제 앱인 캐시앱(CashApp)이나 대출 서비스 스퀘어 캐피탈(Square Capital)과 같은 제품을 출시했는데, 이들 모두 서로 다른 신원 확인 방법이 필요했다. 수 많은 신원 확인 솔루션이 난무할 수밖에 없는 구조였던 것.

송 대표는 기업마다 다른 신원 확인 요구에 대응할 수 있는 유연한 자동화 소프트웨어의 필요성을 깨닫고 당시 룸메이트였던 찰스 예(현 페르소나 CTO)와 함께 개발에 착수해 오늘날의 페르소나를 일궈냈다. 딥페이크와 봇에 의한 가짜 계정이 난무하는 AI 시대에 페르소나의 행보가 주목된다.