폴란드, 챗GPT 개발 오픈AI 프라이버시법 위반 제소…소송 봇물 예고

[아이티데일리] 생성AI 선두 개발사 오픈AI가 자사 서비스 플랫폼인 챗GPT의 대규모 언어모델(LLM)이 유럽의 프라이버시 법을 위반하고 있다는 새로운 대규모 소송에 직면했다고 CNBC, BBC 등 외신이 보도했다. 이번에는 폴란드가 오픈AI를 제소했으며, 다른 EU 소속 국가들도 뒤따를 것이라는 예상이다.

폴란드에서 제출된 소장에서 독립 사이버보안 연구자인 루카즈 올레니크(Lukasz Olejnik)는 챗GPT가 EU의 일반 데이터보호규칙(GDPR)의 많은 조항을 위반하고 있다고 주장했다. 그는 “오픈AI의 위반은 챗GPT 시스템상의 것일 수도 있다. 이 결함이 설계된 프로그램 자체에 심어지지 않았기를 바라지만, 그랬을 수도 있다"고 말했다.

폴란드가 제기한 이번 소송은 올초 올레니크가 챗GPT를 사용해 자신의 프로필을 작성하면서, 챗GPT가 제시한 프로필에 몇 가지 오류가 있음을 발견하게 된 것이 발단이 됐다.

GDPR 하에서 데이터 주체자는 주제접근요청(SAR: Subject Access Request)이라는 절차를 거쳐 기업 또는 기관이 보유하고 있는 자신의 데이터 공개를 요구할 수 있다. 또는 요구하지 않아도 개인 데이터를 사용한 이력을 해당 주체자에게 알려주어야 한다. 이메일 또는 메시지로 배송되는 개인정보 사용 내역 통지와 유사한 작동 프로세스다.

그런데 올레니크가 SAR 절차를 진행하자, 자신에 대한 중요한 정보가 누락됐고, 오픈AI는 그 오류를 수정하기를 거부한 것으로 알려졌다.

올레니크는 ”오픈AI는 챗GPT 내에서 대규모 언어모델 훈련을 진행하면서 데이터 처리에 관한 GDPR 규정을 조직적으로 무시하고 있다“고 주장했다. 소장에서 올레니크는 자신의 데이터 처리에 대해 오픈AI는 적절하게 알리지도, 합리적으로 처리하지도 않았다고 적었다.

이번 제소 과정에서 올레니크는 데이터 보호 및 인권, 그리고 기술을 조화롭게 운영하는 것이 가능하다고 주장한다. 그러나 오픈AI를 비롯한 대규모 언어모델 업계는 적절한 위험 평가와 설계에서 큰 어려움을 겪고 있는 것으로 보인다는게 올레니크의 추정이다.

오픈AI가 GDPR 규정을 위반한다는 비난을 받은 것은 이번 폴란드 소송이 처음은 아니다. 올해 초 챗GPT는 비슷한 우려로 이탈리아에서 한시적으로 금지됐다. 독일 프랑스 스페인도 최근 자체 조사를 시작했고, 캐나다는 자국의 데이터보호법 위반 가능성을 조사하고 있다.

미국에서는 사라 실버먼, 크리스토퍼 골든, 리처드 캐들리 등 작가들이 챗GPT가 이들의 저작권으로 보호된 작품을 무단으로 훈련에 이용했다며 이 회사를 제소한 바 있다. 한국에서 네이버가 생성AI 클로버X를 발표한 후, 신문협회가 AI 학습 과정에서 기사를 무단 사용한 것에 대한 로열티를 지급하라고 요구한 것과 같은 맥락이다.

올레니크의 소송은 로펌 GB파트너스가 주도하고 있다. GB파트너스 측은 이 소송이 성공적으로 해결될 것을 확신한다고 자신했다. 폴란드 및 기타 EU 데이터 보호 당국이 원하는 것은 오픈AI가 법을 준수하고 있다는 사실을 확실히 보여달라는 것이며, 프라이버시 보호를 위해 무엇을 해야 하는지를 인지하라는 것이라고 GB파트너스는 주장했다.