구글, 포토 앱에 'AI 생성 이미지 식별' 기능 추가할 듯

[아이티데일리] 구글(Google)이 자사의 안드로이드 앱 ‘구글 포토’에 생성형 인공지능(AI)으로 만들어지거나 조작된 이미지를 쉽게 판별할 수 있는 기능을 추가할 것으로 보인다고 전문 사이트 안드로이드 오소리티가 전했다.

안드로이드 앱 전문 어셈블 디버그(Assemble Debug)에 따르면, 구글 포토의 차세대 버전에서는 사진 데이터에 내장돼 있는 이미지의 기본 정보를 보다 많이 읽을 수 있게 될 것으로 보인다. 메타데이터로서 알려진 이러한 원본 데이터는 이미지의 작성이나 편집에 사용된 소프트웨어에 관한 정보도 포함하고 있다.

많은 생성형 AI 프로그램은 이미지를 작성할 때 프로그램을 사용했다는 사실을 기록하는 메타데이터를 내장하고 있다. 예를 들어, 구글의 생성형 AI인 제미니로 작성된 이미지에는 크레딧 메타데이터에 'Made with Google AI'라는 텍스트, 즉 구글 SI로 제작했다는 정보가 포함돼 있다.

구글 포토의 안드로이드 앱 버전 7.3에는, AI인포(ai info), 크레디트(credit), 디지털 소스 타입(digital source type)이라고 라벨링된, 메타데이터를 언급하는 새로운 코드가 포함돼 있다. 이 코드가 포토 앱이 AI 생성 이미지를 판별하는 기능을 나타낸다는 것.

현재 구글 포토에 올라간(업로드) 생성형 AI를 이용해 만든 사진에는 그 사진이 어떻게 작성되었는지를 나타내는 특별한 표시가 없지만, 새로운 메타데이터가 추가되면 구글 포토가 생산자 정보를 공개할 것임을 강하게 시사한다.

물론 구글 포토가 모든 생성형 AI 제작 이미지를 완벽하게 검출하지는 못할 것이라는 추정이다. 이러한 메타데이터에 포함되는 정보를 읽어내 이용자에게 표시해 주는 것만으로는 이용자들을 가짜 정보로부터 보호할 수 없다.

이유는 모든 생성형 AI 소프트웨어가 이들 메타데이터를 사용한다는 보장은 없으며, 설령 사용하더라도 메타데이터는 이미지가 생성된 후 쉽게 삭제하거나 편집할 수 있다기 때문이다. 전문적으로 가짜 이미지를 만드는 사람은 메타데이터를 당연히 제거할 것이다.

이미지 자체의 내용에 근거해서 해당 이미지가 생성형 AI로 만들어진 것임을 파악하는 것은 훨씬 어렵고, 판단을 위해 더 많은 AI의 사용을 필요로 할 수도 있다. 때문에 구글이 이 기능을 구글 포토에 어떻게 실장할 것인지는 시장의 관심을 모은다.

다만 메타데이터를 읽어 표시해 주는 것만으로도 구글 포토의 라이브러리 내에서 생성형 AI를 이용해 만든 콘텐츠를 검색하기는 쉬워질 것이라는 기대다.

구글이 자사 제품에서 생성형 AI 콘텐츠를 식별하기 위한 대책을 마련하고 있는 것은 시장의 요구에 부응하는 조치다. 미디어 관계자들은 정확한 판별을 요구하고 있다. 한편 지난 7월 메타는 페이스북과 인스타그램 플랫폼 상에 있는 AI 콘텐츠 라벨링을 변경했다. 이는 사용자의 사진을 메타가 실수해 AI를 사용한 것으로 식별했다는 이용자들의 반발에 따른 조치였다.