생성형 AI 챗봇 vs 프라이버시…“당신의 대화는 비밀이 유지될까”

[아이티데일리] 오픈AI의 챗GPT, 구글 제미나이, 메타 AI 등 빅테크 생성형 AI 도구들이 일상에 깊숙이 들어오면서 사용자들의 사생활 보호 우려가 커지고 있다. 대다수 AI 챗봇은 사용자의 대화를 자동으로 저장하며, 이 기록은 플랫폼 내부 인력의 검토를 거치거나 AI 학습에 활용될 수 있다. 일부 서비스는 대화 내용을 무기한 저장하고, 타겟 광고나 마케팅에 활용할 수 있는 여지도 남겨두고 있다.

기술 전문 칼럼니스트 자레드 뉴먼은 기업에서 일상적으로 사용하는 생성형 AI 도구를 대상으로 실태를 점검, 그 결과를 패스트컴퍼니를 통해 전했다. 그 내용을 요약해 소개한다. 기업 또는 개인들이 활용할 생성형 AI 도구를 선택하는데 참고가 될 것으로 보인다.

◆ 챗GPT: 기본값은 저장, AI 훈련도 포함

오픈AI가 제공하는 챗GPT는 기본적으로 사용자의 대화를 AI 학습에 활용한다. 오픈AI는 “훈련 데이터에 개인정보가 포함될 수 있다”고 경고하고 있으며, 내부 검토자가 일부 대화를 확인할 수 있다고 명시하고 있다.

다만 설정을 통해 모델 향상 기능을 비활성화하거나, 임시 채팅 모드를 활성화하면 해당 대화는 훈련 데이터로 활용되지 않고 기록에도 남지 않는다. 삭제하거나 임시로 설정한 대화는 최대 30일간 보관되며, 일반 대화는 무기한 저장된다.

오픈AI는 사용자 데이터를 광고 목적으로 판매하거나 공유하지 않으며, 타겟 광고도 하지 않는다고 밝혔다.

◆ 구글 제미나이: 검토 후 최대 3년 보관

구글 제미나이 역시 기본적으로 사용자 데이터를 AI 학습에 사용한다. 특히 구글은 “검토자가 보지 않기를 원하는 데이터는 입력하지 말라”고 경고할 정도로 사람의 직접 열람 가능성을 명시하고 있다. 검토된 데이터는 최대 3년간 저장된다.

AI 훈련 중단은 ‘myactivity.google.com’에서 설정할 수 있으며, ‘제미나이 앱 액티비티’를 끄면 채팅 기록이 사이드바에서 숨겨진다. 그러나 완전히 삭제되는 것은 아니다. 비공개 채팅 모드는 존재하지 않는다. 구글은 제미나이 대화를 광고에 활용하지 않는다고 밝혔지만, 개인정보 처리 방침상 향후 정책 변경 가능성도 열어뒀다.

◆ 메타 AI: 공개 링크는 SNS 피드에도 노출

메타의 AI 역시 사용자의 대화를 AI 학습에 활용하며, 광고 타겟팅에도 활용 가능하다. 특히 메타 AI에서 공유된 대화 링크는 공개 피드에 자동 게시되며, 페이스북이나 인스타그램 등 다른 메타 플랫폼에도 노출될 수 있다.

내부 인력의 검토가 포함되며, 비공개 채팅 기능은 따로 존재하지 않는다. 사용자 데이터는 특별한 설정이 없는 한 무기한 저장된다.

◆ 마이크로소프트 코파일럿: 타겟 광고 활용, 설정은 ‘깊숙이’

코파일럿은 사용자 대화를 자동으로 저장하며, AI 훈련에도 활용한다. 내부 인력의 검토도 가능하다. AI 훈련 중단 기능은 있지만, 설정 메뉴가 깊숙이 숨겨져 있어 접근이 어렵다.

또한 마이크로소프트는 사용자 데이터를 타겟 광고에 활용하며, 일부 AI 기능과의 통합 광고도 계획하고 있다고 밝힌 바 있다. 기록은 기본적으로 18개월간 저장되며, 수동 삭제가 필요하다.

◆ 클로드, 루모(Lumo), 덕AI(Duck.AI): 상대적으로 개인정보 보호 강화

앤트로픽의 클로드, 프로톤의 루모, 덕.AI 등은 개인정보 보호를 상대적으로 잘 지키는 AI 챗봇에 속한다.

클로드는 사용자가 명시적으로 신고하거나 실험 기능에 참여하지 않는 한, 대화를 AI 학습에 활용하지 않으며, 내부 인력에 의한 검토도 정책을 위반한 경우에만 한정된다. 다만 비공개 모드는 없으며, 직접 대화를 삭제해야 한다.

프로톤의 루모는 채팅 로그 자체를 저장하지 않고, 타겟 광고에도 활용하지 않는다. ‘비공개 모드’ 기능이 있어 한층 강화된 보호를 제공한다.

덕.AI는 AI 훈련에 데이터를 사용하지 않고, 공유 기능도 제공하지 않는다. 일부 데이터를 익명 처리하여 최대 30일간 저장하지만, 법적 요청이 있을 경우 연장될 수 있다.

◆ 퍼플렉시티와 xAI 그록(Grok): 광고 활용 가능성 존재

퍼플렉시티는 기본적으로 사용자의 대화를 AI 훈련에 사용하며, 일부 대화를 타겟 광고에도 활용할 수 있다. 퍼플렉시티는 데이터 브로커로부터 추가 정보를 수집해 광고 타겟팅에 활용한다고 밝히고 있다.

비공개 모드(Incognito)가 있으며, 설정에서 AI 학습을 중단할 수 있다. 데이터는 계정 삭제 전까지 보관된다.

xAI의 그록도 AI 학습에 데이터를 사용하며, 사람이 대화를 검토할 수 있다. 다만, 비공개 모드와 AI 훈련 중단 옵션은 제공된다.

◆ “기본값은 항상 저장, 사용자가 직접 바꾸어야”

조사 결과, 대부분의 생성형 AI 서비스는 기본값이 ‘대화 저장 및 AI 훈련 허용’이며, 사용자가 직접 설정을 바꾸지 않는 한 대화가 플랫폼에 장기적으로 남게 된다. 또한 비공개 채팅 모드는 일부 서비스에만 존재하고, 삭제 기능은 대개 수동으로 이루어져야 한다.

정보보호 전문가들은 “AI 챗봇 사용이 일상이 된 지금, 개인정보 설정과 저장 정책을 명확히 이해하는 것이 중요하다”고 강조한다. 특히 의료, 금융, 사생활 등 민감한 내용을 AI에 입력할 경우 해당 플랫폼의 정책을 꼼꼼히 확인하고, 비공개 모드를 적극 활용해야 한다는 조언이다.