“프라이버시 보호 없는 AI 혁신은 없다”

[아이티데일리] “프라이버시 보호 없이는 혁신도, 도전도, 지식 재산권(IP)도 존재할 수 없다. 수익을 위한 기술 트렌드, 정치적 다툼이 프라이버시라는 기본권을 훼손할 만큼 가치 있는 목표가 아님을 분명히 해야 한다.”

시그널 재단 메레디스 휘태커(Meredith Whittaker) 회장은 16일 그랜드 하얏트 서울에서 열린 ‘제47차 글로벌 프라이버시 총회(GPA)’ 기조연설에서 프라이버시 보호의 중요성에 대해 이 같이 밝혔다.

휘태커 회장은 13년간 구글에서 일하며 오픈 리서치 그룹을 만든 AI 전문가다. 2018년 퇴사 후 비영리 암호화 메신저 ‘시그널(Signal)’을 이끌고 있으며, 미국 백악관, 유럽 의회 등 여러 정부 기관 등에 AI, 개인정보 보호 및 보안 정책을 자문하고 있다.

휘태커 회장은 이날 기조연설에서 오늘날 프라이버시를 위협하는 요소로 운영체제 영역에서부터 개인정보를 수집하는 AI를 꼽았다. 그는 “AI 모델 고도화에는 방대한 데이터가 필요하다”며 “기업들이 운영체제(OS) 단계에서부터 사용자 데이터를 수집해 AI 학습에 사용하고 있다”고 말했다.

이어 “기업은 편리한 삶을 약속하지만 그 이면에서는 AI 에이전트를 위해 규칙을 바꾸며 이용자 데이터를 더 깊이 들여다보고 있다”며 “일정·이메일·신용카드 정보 등 거의 모든 사적 데이터가 AI 에이전트의 접근 대상이 된다”고 비판했다.

휘태커 회장이 꼽은 대표적 사례는 마이크로소프트(MS)의 ‘리콜(Recall)’ 기능이다. 윈도(Windows) 11부터 도입된 이 기능은 몇 초마다 스크린샷을 촬영하고, 광학 문자 인식(OCR)을 통해 텍스트를 추출해 사용자 컴퓨터 내 데이터베이스에 저장한다. MS는 AI 기반 사용자 경험을 개선하기 위해 리콜 기능을 도입했으나 개인정보 침해 논란을 빚은 바 있다.

휘태커 회장은 “‘리콜’로 쌓이는 정보는 해커에게 매력적인 표적”이라며 “공격이 성공하면 시스템 전체를 마비시킬 수 있는 ‘단일 장애 지점(Single Point of Failure, SPOF)’이 될 수 있다”고 경고했다.

이 같은 무분별한 개인정보 수집은 1990년대 미국에서 촉발된 ‘암호 전쟁(Crypto War)’에서 비롯됐다고 휘태커 회장은 설명했다. 암호 전쟁이란 개인 프라이버시 보호가 우선인지 공공의 안전 확보가 우선인지를 두고 불거진 논쟁을 의미한다. 10여 년간 이어진 논란은 1999년 누구든 미국 정부 허가 없이도 암호화를 개발하도록 허용되며 일단락됐다.

하지만 휘태커 회장은 암호 전쟁의 영향이 현재까지 이어지고 있다고 지적했다. 그는 “암호화 기술이 확산됐지만 선택권은 기업이 쥐고 있었다. 기업들은 광고 수익을 위해 대량의 개인정보를 수집했고, 이는 오늘날 AI 모델 학습의 토대가 됐다”고 꼬집었다.

AI 에이전트 시대에 개인정보를 보호하는 방안으로 휘태커 회장은 애플리케이션 데이터를 무단으로 접근·처리하지 못하도록 하는 ‘거부권(Opt-out)’ 조항을 제안했다. 또 기업에 개인정보 보호와 보안을 약화하지 않을 것이란 공개적 약속과 함께 코드 수준의 투명성도 요구해야 한다고 강조했다.

휘태커 회장은 “프라이버시 보호 없이는 혁신도, 기존 질서에 대한 도전도, 지식 재산권이나 영업 비밀의 보호도 존재할 수 없다. 이 모든 것을 위해 싸워야 할 책임은 우리에게 있다”고 역설했다.