“AI, 전통적 보안 무너뜨려…신뢰·복원력 중심으로 변화해야”

[아이티데일리] “기존 보안은 시스템, 데이터 등 자원을 경계 중심으로 보호하는 데 집중했다. AI는 여러 경계를 무너뜨리면서 우리의 보안에 새로운 위기로 다가오고 있다. 이제는 방어, 대응에 초점을 맞추기보다 대상을 신뢰할 수 있는지 그리고 피해를 얼마나 빠르게 복구할 수 있는지를 고민해야 한다.”

한국인터넷진흥원 오동환 보안산업단장은 7일 경기 수원 아주대학교 성호관에서 열린 ‘2025 데이터COSS의 날’에서 보안 패러다임 변화에 대해 이 같이 강조했다.

AI는 사이버보안에도 변화를 가져오고 있다. 일례로 2024년 데프콘 국제해킹대회(DEFCO CTF 32)에서 2위를 차지한 다국적 연합팀 ‘블루 워터(Blue Water)’는 AI 에이전트 12개를 준비해 대회 문제를 해결했다. 또한 사전 지식이 없는 사용자가 생성형 AI 서비스에 해킹 문제나 바이너리를 제공하기만 해도 해결할 수 있을 정도로 진입장벽 역시 낮아지고 있다.

공격자들은 이러한 기술 발전을 악용해 생성형 AI로 정보 수집, 피싱 문자 생성뿐 아니라 악성코드 제작까지 해결하고 있다.

실제 구글 위협 인텔리전스 그룹(GTIG)는 올해 ‘제미나이(Gemini)’로 악성 스크립트를 만든 APT(지능형 지속 위협) 조직, 거대언어모델(LLM)로 소스 코드를 자동 변조하는 악성코드 ‘프롬프트플럭스(PROMPTFLUX)’ 등을 발견한 바 있다.

오동환 단장은 “정보보호의 3요소 같은 보안 개념은 경계를 중심으로 시스템, 데이터를 보호하던 때에 만들어졌다. 하지만 AI를 위시한 신기술의 등장은 기존 상식을 무너뜨렸다”며 “특히 AI는 매개변수(파라미터), 추론 모델 등 이전에 없던 개념으로 판도를 뒤집고 있다”고 말했다.

보안 패러다임 변화에 오 단장이 강조한 요소는 ‘신뢰’다. 오 단장은 “AI 기술 발전에 대응하기 위해서는 신뢰를 확보해야 한다. AI가 얼마나 투명하며 책임감 있는 답변을 내놓을 수 있는지, 어떤 추론 과정이 이뤄졌으며 이를 우리가 믿을 수 있을지 등을 검증해야 한다”고 설명했다.

이러한 맥락에서 전 세계 조직은 ‘설명 가능한 AI(XAI)’를 주목하고 있다. XAI는 AI가 생성하는 과정을 인간이 이해하고 신뢰할 수 있도록 하는 일련의 프로세스이자 기술이다.

아울러 오 단장은 늘어난 위협으로 피해가 발생한 시스템을 더 빠르게 복구할 수 있는 ‘복원력’ 확보 역시 향후 사이버보안에서 중요해질 것으로 전망했다.

한편, 이날 열린 ‘2025 데이터COSS의 날’ 행사는 ‘AI 시대 사이버보안의 미래를 디자인하다’를 주제로 열렸다. 구글, 아마존웹서비스(AWS), 한국인터넷진흥원(KISA) 등에서 전문가들이 참석해 보안 기술 발전과 이를 접목한 실사례, 그리고 사이버보안의 미래 전망 등을 다뤘다.

구글 클라우드 코리아 서진원 스페셜리스트가 ‘생성형 AI를 활용한 보안 취약성 점검 및 대응 전략’, 구글 페이먼트 코리아 이대근 최고정보보호책임자(CISO)가 ‘구글의 신뢰와 방어: 핀테크 CISO가 바라본 보안’을 주제로 발표했다. AWS코리아 이호석 CISO는 ‘혁신을 위한 아마존의 문화’를 소개했다.