앤트로픽 “中 해커, AI 모델 ‘클로드’로 대규모 해킹 감행”

[아이티데일리] 중국과 연계된 해커 조직이 앤트로픽의 거대언어모델(LLM) ‘클로드(Claude)’를 사이버공격에 악용한 정황이 드러났다.

앤트로픽은 13일(현지 시각) 중국 정부 배후로 추정되는 해킹 그룹이 자사 AI 서비스를 악용해 글로벌 기업과 기관에 침투를 시도해 일부 성공했다고 발표했다.

정부 기관, 대형 IT 기업, 금융기관, 화학제조기업 등 30여 곳이 이번 공격의 표적이 됐다. 다만 구체적인 기관 및 기업명은 공개되지 않았다.

앤트로픽은 지난 9월 이러한 활동을 감지하자마자 조사에 착수했다. 이후 열흘간 공격 규모를 파악해 악용된 계정을 차단하고 피해 사실과 정보를 기관과 공유했다.

이번 공격은 AI를 정보 수집 목적으로만 사용하지 않고 공격 전반에 직접적으로 사용했다는 점에서 이례적이다. 특히 최근 들어 급격한 발전한 ‘에이전트(Agent)’ 기능이나 AI와 소프트웨어 간 연결을 돕는 ‘모델 컨텍스트 프로토콜(MCP)’ 등을 활용했다.

앤트로픽에 따르면 공격자는 사전 자료 수집부터 공격 도구를 개발하는 등 침해 전 과정에 ‘클로드 코드(Claude Code)’를 활용했다. 클로드 코드는 앤트로픽이 올해 초 출시한 AI 기반 코딩 도구다.

대다수 AI 서비스는 악의적 목적에 쓰이지 않도록 ‘가드레일(Guardrails)’이라 불리는 보안 기능을 갖추고 있다. 때문에 공격자는 AI를 악용하기 위해 ‘탈옥(Jailbreak)’ 기법을 동원했다. 탈옥은 AI 가드레일을 우회하는 수법을 일컬으며 대개 악의적 프롬프트를 넣어 AI 모델을 속이는 식으로 이뤄진다.

앤트로픽이 공개한 사례에서 공격자는 클로드에게 보안업체 직원으로 가장해 클로드에게 방어 테스트을 진행한다고 AI를 속였다. 그다음 클로드 코드가 공격 표적의 시스템과 인프라를 검사하고 가장 중요한 데이터베이스를 찾도록 지시했다. 클로드는 인간 해커보다 더 빠르게 정보를 수집할 수 있었다.

공격자는 취약점을 찾고 이를 테스트하는 과정에도 클로드를 사용했다. 심지어 클로드에게 공격 과정을 문서로 만들도록 지시해 추후 있을 공격에 활용하기도 했다.

앤트로픽은 “공격자는 AI로 캠페인의 80~90%를 해결할 수 있었다. 중요한 의사결정 몇 차례에만 사람이 개입했다”며 “AI는 초당 수천 건에 달하는 작업을 수행했는데 이는 인간 해커가 따라갈 수 없는 공격 속도”라고 설명했다.

앤트로픽은 지난 6월에도 클로드 코드로 대규모 데이터 탈취를 자행한 사이버 범죄자를 발견한 바 있다. ‘바이브 해킹(Vibe Hacking)’으로 명명된 이 공격은 의료, 응급 서비스, 정부 및 종교 기관 등 약 17개 조직을 표적으로 삼았다. 이번 공격은 지난 6월 사례보다 공격 규모는 커졌으나 인간 개입 빈도는 줄어들었다.

AI를 악용한 해킹 공격은 비단 앤트로픽만의 일이 아니다. ‘제미나이(Gemini)’를 운영 중인 구글도 지난 6일 자사 위협 인텔리전스 그룹이 분석한 AI 위협 보고서를 발표했다.

이 보고서에는 국가 배후 해커 조직이 공격 활동 전반에 생성형 AI를 사용한 사례가 실렸다. 일례로 중국과 연계된 것으로 추정되는 조직은 초기 정찰부터 피싱 기법 연구 등 다양한 부분에 제미나이를 사용했다. 북한 해커 조직은 암호화폐 탈취 공격 전 사전 조사와 피싱 메시지 제작 등에 AI를 활용했다.

정상적인 AI 서비스를 악용하는 데 그치지 않고 불법 AI 도구를 거래하는 사례도 포착됐다. 구글 위협 인텔리전스 그룹은 지하 시장에서 딥페이크 생성, 피싱 제작 등을 지원하는 AI 도구를 판매하는 정황을 발견했다. 서비스 무료 버전에 광고를 삽입하거나 특정 기능에 추가 비용을 받는 요금제를 도입하는 등 판매 모델 다각화까지 이뤄지고 있는 것으로 나타났다.