소니월드포토그래피어워즈 1등 수상 사진, AI가 만든 것이었다

[아이티데일리] 생성형 AI가 다양한 부작용을 낳으리라는 경고가 현실로 다가왔다. 각종 SNS에서 챗GPT 등 생성형 AI가 만들어 내는 가짜 정보가 버젓이 유통돼 사람들을 현혹시킬 것이라는 우려는 오래 전부터 대두돼 왔다.

독일 베를린에서 활동하는 예술가인 보리스 엘닥센(Boris Eldagsen)이 유명한 사진 경연대회에서 수상한 자신의 작품이 사실은 인공지능(AI)을 사용해 제작한 이미지임을 고백하고 수상을 사퇴했다고 포브스지가 보도했다. 그러나 경진대회 주최측은 AI가 사용된 것임을 알고고 수상작을 결정했다고 설명하고 있다. 그렇다 해도 이는 심각한 문제라는 지적이다.

엘닥센의 작품은 월드포토그래피오가니제이션(WPO)이 주최하는 소니월드포토그래피어워즈(SWPA) 일반공모 부문 크리에이티브 카테고리에서 1위에 입상했다. 상품으로 소니 카메라 한 세트와 5000달러 등이 부상으로 수여될 예정이었다. 그러나 엘닥센은 공식 웹사이트에 낸 공개 서한에서 수상 사퇴 의사를 밝혔다.

엘닥센은 "권위 있는 국제 '포토그래피' 콘테스트에서 AI 생성 이미지가 수상한 것은 처음이며, 이는 역사적인 순간"이라면서도 "AI 이미지와 포토그래피는 상을 두고 경쟁해서는 안 된다. AI는 포토그래피가 아니“라는 이유로 수상을 사퇴한다고 밝혔다. 그러면서 엘닥센은 AI 생성 이미지를 '포토그래피'가 아닌 '프롬프토그래피=PROMPTOGRAPHY'라고 부를 것을 제안했다.

수상 작품은 1940년대 촬영 기술을 재현해 두 여성을 그려낸 것이다. SWPA 웹사이트에서는 이 사진이 이미 삭제됐다.

주최측인 WPO는 이 작품이 AI와의 합작이라는 사실을 엘닥센을 통해 확인하고 있었다고 설명했다. '크리에이티브' 카테고리는 다양한 실험적 접근을 수용하는 부문이기 때문에 엘닥센의 작품은 응모 자격을 충족한다고 판단했다고 밝혔다. 수상 발표 후에도, 이 주제에 대해 깊이 논의하고 싶다는 엘닥센의 의향에 따라, 작가와의 Q&A를 웹 사이트상에 게재할 준비를 진행하고 있었다고 한다.

하지만 WPO는 엘닥센이 수상을 사퇴함에 따라 출전 자격을 철회했다. 엘닥센의 작품은 AI 이미지 생성 도구를 사용해 '과거의 가짜 기억'을 만들어낸 것이다. 사진 제작 기법은 엘닥센 자신의 공식 웹사이트에 설명돼 있다.

텍스트의 프롬프트(지시문)만을 근거로 사진을 생성하는 무료 AI 도구의 인기는, 지난해 말 이후 급속도로 확대되고 있다. DALL-E나 스테이블 디퓨전(Stable Diffusion), 미드저니(Mid Journey) 등 웹사이트를 사용함으로써 누구나 실사와 같은 가짜 이미지를 순식간에 만들 수 있다. 이는 법률적으로나 윤리적인 문제도 낳고 있다.

다른 예로 지난달에는 프란치스코 교황이 흰색 패딩 코트를 입은 사진이 확산됐는데, 이는 미드저니를 사용해 생성한 이미지였다. 또 도널드 트럼프 전 미국 대통령은 최근 자신이 무릎을 꿇고 기도하는 모습을 담은 AI 생성 이미지를 SNS상에서 공유했다.

트럼프의 체포 장면을 그린 가짜 이미지도 여럿 나돌았다. 포르노 여배우에게 지불한 입막음으로 기소된 트럼프는 이달 뉴욕 법원에서 혐의에 대한 조사를 받았지만 일련의 가짜 사진은 그보다 앞서 반트럼프파가 작성한 것이었다.

미드저니는 최근 이용자 수 급증에 따라 무료 평가판 중단을 발표했다. 현재의 AI 생성 영상에는, 사람의 손가락 수가 다섯 개를 넘는 등 가짜임을 식별할 수 있는 힌트가 포함되는 경우도 많지만, 이러한 도구가 성능을 향상시켜 갈 것임은 틀림없다.