[아이티데일리] 오픈AI의 CEO인 샘 알트만(Sam Altman)이 각종 선거에서 생성형 AI의 부당한 선거 개입 가능성을 경고하고 나섰다. AI 개발 커뮤니티에서도 저명한 인물인 알트만은 AI가 챗봇을 통해 인간을 참여시키거나 AI가 생성한 사기성 콘텐츠를 생성함으로써 정치적 영향력을 행사할 가능성을 우려했다고 영국 IT전문지 원더풀엔지니어링이 보도했다.

AI 기반 챗봇의 대표적인 플랫폼은 오픈AI에서 만든 챗GPT이다. 지금까지 알려진 것과 같이 챗GPT는 때때로 부정확하거나 조작된 정보를 생성하여 신뢰할 수 있는 사실 응답을 기대하는 개인에게 혼란을 일으켜 왔다.

알트만도 이에 대한 해결책은 제시하지 못한다. 알트만의 최근 트윗은 구체적인 해결책을 제시하지 않은 채, 사용자들의 의식 제고의 중요성을 강조했다. 사용자들에게 주의를 환기하기 위해 알트만은 생성형 AI의 잠재적인 정치적 파급 효과를 화두로 사용자들의 각성을 촉진하기 위한 대규모 행사를 개최할 계획이라고 밝혔다.

알트만은 챗GPT를 비롯한 챗봇의 위험에 대해 여러 번 경종을 울렸다. 과거 그는 전 세계가 제어할 수 없는 AI 도구의 위협에 마주할 시점이 다가오고 있다고 경고했다. 알트만은 또한 미국 상원 법사위원회에서 생성형 AI의 위협을 인정하는 증언을 하면서 정부의 AI 규제 조치를 찬성했다.

생성형 AI에 대한 우려는 알트만에 한정되지 않는다. 구글의 모회사인 알파벳의 전 CEO 에릭 슈미트 역시 AI가 향후 선거에서 가짜 정보를 이용해 강력한 영향을 미칠 것으로 전망했다. 그는 AI와 잘못된 정보의 확산이 다가오는 선거 과정에서 파괴적인 결과를 초래할 수 있다고 경고했다.

과거 선거에서도 AI가 영향을 미쳤기 때문에, 이같은 우려의 근거는 충분하다는 지적이다. 케임브리지 어낼리티카(Cambridge Analytica) 스캔들이 그것이다. 이 스캔들은 AI가 2016년 미국 대통령 선거 기간 동안 부적절하게 얻은 페이스북 사용자 데이터를 이용해 표적 광고를 함으로써 유권자 행동을 조작한 사건이다. 정치 컨설팅 회사는 파산했고 메타는 거액의 배상금을 물어야 했다.

사태 재발을 막기 위해 이베트 클라크 하원의원은 정치 광고에서 AI 사용의 공개를 의무화하는 법안을 발의했다.

사회가 AI에 의존하게 되면서 AI 기술이 민주적 절차와 집단적 의사 결정을 약화시킬 수 있다는 우려가 커지고 있다. AI 개발은 발전 기회를 제공하지만, 정치 영역에서는 심각한 난제를 던진다. 정부 규제기관과 AI 전문가들의 우려를 반영한 적절한 규제 제도가 마련되어야 한다는 게 일치된 견해다.