구글, 안드로이드 앱에 부적절한 AI 콘텐츠 신고 기능 의무화

[아이티데일리] 구글이 챗GPT를 비롯한 생성 AI(인공지능) 도구가 만들어 내는 그릇된 정보를 걸러내는 장치를 강화한다.

구글은 안드로이드 스마트폰에 ‘구글 플레이스토어’를 기본으로 탑재해 스마트폰 사용자들이 안드로이드 앱을 내려받을 수 있도록 하고 있다. 구글은 플레이스토어에 올려지는 안드로이드 앱의 개발자에게 생성 AI가 생산한 사기 또는 부적절한 콘텐츠를 사용자가 신고할 수 있는 기능을 의무적으로 설치하도록 조치한다고 포브스 등 외신이 보도했다. 이는 생성 AI를 이용한 앱이 부적절한 콘텐츠를 올리는 것에 대한 경고가 잇따르는 데 따른 조치다.

구글 플레이스토어는 내년 1월 31일부터 시행되는 가이드라인에서 AI를 이용해 콘텐츠를 만들 수 있는 앱에 대해 사용자가 문제가 있는 콘텐츠에 플래그를 꽂을 수 있는 기능을 의무화한다. 앱 개발자는 사용자의 보고를 바탕으로 앱 내 콘텐츠를 필터링하고 사실일 경우 시정하게 된다고 가이드라인은 밝혔다.

생성 AI를 이용한 챗봇과 AI 화상 생성기들이 수정된 정책의 대상이 된다. 구글은 다만 사용자가 생성 AI 도구를 이용해 콘텐츠를 생산하는 것을 허용하지 않는 앱은 규제 대상에서 제외된다고 밝혔다.

구글이 정하는 정책 위반 AI 콘텐츠의 예로서는, 상대의 동의를 얻지 않고 허위 과장 왜곡해 만들어 낸 성적으로 문제가 있는 콘텐츠, 혹은 실재하는 인물을 이용해 생성한 지극히 정교한 조작된 영상, 사기나 기만적인 선거 캠페인에 사용될 수 있는 실재 인물의 음성이나 동영상 등을 들 수 있다.

구글은 또 AI가 생성한 콘텐츠를 포함한 선거 관련 광고에 대해서는 AI 사용을 명확하고 눈에 띄는 형태로 공개할 것을 조만간 의무화하겠다고 발표한 바 있다. 이는 총선을 앞둔 한국에서도 참고해야 할 대목으로 보인다.

구글 모회사 알파벳의 에릭 슈미트 전 CEO는 최근 "생성 AI에 의한 가짜 콘텐츠가 SNS에서 퍼지면 2024년 선거(미국 대선)는 대혼란에 빠질 것"이라고 경고했다. 2024년에 한국에서는 정국의 향방을 가를 수 있는 총선이 실시된다. 슈미트는 메타나 X(옛 트위터) 같은 기업의 콘텐츠 모더레이션(욕서 등 부적절한 콘텐츠를 관리하는 기능) 역할 축소가 큰 문제라고 지적했다.

구글은 보다 엄격한 AI 규제 추진을 주도하는 빅테크 중 하나다. 애플은 생성 AI 이용이 갈수록 물의를 빚고 있음에도 자사 앱스토어 가이드라인에 AI와 챗봇 사용을 제한하는 정책을 아직 담고 있지 않다.