[아이티데일리] 2024년은 기술과 사이버 보안 분야에서 역사적인 해였다. 우리는 AI와 거대언어모델(LLM)의 발전부터 뇌-컴퓨터 인터페이스(BCI)와 휴머노이드 로봇에 이르기까지 모든 것을 목격했다. 이러한 혁신과 함께 AI 모델 탈옥, 신속한 해킹 같은 새로운 공격 벡터가 등장했다. 또한 전 세계에서 가장 큰 규모의 IT 서비스 중단도 경험했다.

이 같은 최근의 사건들은 미래는 예측 불가능하다는 중요한 현실을 강조한다. 우리는 과거의 경험을 바탕으로 앞으로 무슨 일이 일어날지 추측할 수밖에 없다. 하지만 한 가지 확실한 부분은 2025년이 자체적인 도전과 기회를 가져올 것이라는 점이다.

이를 염두해 2025년 사이버 보안 부문에 대한 예측을 해 본다.

1. 2025년에는 물리적 및 디지털 아이덴티티 영역의 융합을 부정할 수 없게 될 것이다.

2025년 말까지 물리적 아이덴티티와 디지털 아이덴티티의 구분이 완전히 사라지고, 이는 우리가 아이덴티티를 인식하는 방식에 중요한 변화를 가져올 것아다. 역사적으로 물리적 아이덴티티와 디지털 아이덴티티는 별도로 공존해 왔다. 즉, 유형적 맥락에서는 물리적 아이덴티티, 온라인 프로필에서는 디지털 아이덴티티였던 것이다. 이 새로운 패러다임은 물리적 보호와 디지털 보호를 응집력 있는 프레임워크로 통합하는 통합 보안 솔루션을 요구한다.

현대 생활은 IoT 디바이스, 스마트 환경, 소셜 미디어 및 생체 인식 시스템이 밀접하게 연결돼 더 크고, 상호 연결된 아이덴티티를 만들어낸다. 해킹된 스마트 디바이스나 손상된 온라인 계정 같은 한 영역의 침해 발생은 즉시 다른 영역에 영향을 미친다. 이러한 상호 연결은 단편적인 보안 접근 방식의 취약점을 강조하고, 개인을 전체적으로 보호하는 통합 아키텍처의 필요성을 강조한다.

새로운 기술이 이러한 변화를 주도할 것이다. 제로 트러스트 아키텍처, 탈중앙화 신원증명(Decentralized Identifier, DID), AI 기반 위협 탐지 같은 입증된 개념은 하이브리드 아이덴티티를 원활하게 보호하고, 아이덴티티를 단일 전체로 취급하는 플랫폼에 수렴할 것이다. 이러한 상호 연결은 모든 액세스 포인트, 상호 작용 및 데이터 교환에서 보호 기능을 통합함으로써 정교한 사이버 및 물리적 위협에 대한 복원력을 향상시킬 것이다.

물리적 보안과 디지털 아이덴티티 보안을 통합하면 보호에 대한 우리의 관점이 변화될 것이다. 우리는 보호를 단순히 물리적 및 디지털 구성 요소의 집합이 아니라 개인의 전체적인 무결성 보존으로 인지하게 된다. 이러한 전환은 복잡하고 상호 연결된 세상에서 위험을 줄이고, 신뢰를 구축할 것이다.

2. 2025년에는 기업들이 생성형 AI로 생성된 아이덴티티를 관리하면서 더 나은 통제와 가치 제공을 위해 프라이빗 AI 모델을 채택할 것이다.

조직은 AI의 이점을 원하지만 데이터를 포기하고 싶어하지는 않는다. 여기에는 그럴 만한 합당한 이유가 있다. 독점 정보 유출, AI 환각(AI Hallucinations), 모든 프롬프트가 데이터 모델에 지속적으로 동화되면서 기업들은 빅테크 AI에 더 작고, 통제 가능한 대응 방식을 구현하게 됐다. 때문에 2025년에는 조직이 프라이빗 AI 모델을 채택해 데이터에 대한 통제권을 되찾을 것으로 예상된다.

현재 AI 산업은 오픈AI(OpenAI)의 챗GPT(ChatGPT), 마이크로소프트 코파일럿(Microsoft Copilot), 구글 제미니(Google Gemini), 아마존 Q(Amazon Q) 같은 주요 기업들이 주도하고 있다. 그러나 표준화나 기본 교차 모델 도구의 부족으로 조직은 베팅할 특정 AI 말을 선택하고, 유리하게 진화하기를 바랄 수 밖에 없다.

최근 유출된 자료에 따르면 원래 2024년 출시 예정인 오픈AI의 챗GPT-5는 샘 알트먼에 의해 출시가 지연되고 있으며, 지속적인 성능 문제로 인해 2025년에도 출시되지 않을 것으로 예상된다. 이는 투자자들의 우려를 불러일으키고, AI 개발의 잠재적 둔화 가능성을 시사한다. 따라서 2025년에는 더 나은 데이터 제어, 보안 및 운영 효율성을 제공하는 프라이빗, 사내 AI 언어 모델 또는 “프라이빗GPT(PrivateGPT)”에 대한 관심과 채택이 가속화될 것으로 예상된다.

이러한 변화는 기업이 더 나은 제어, 데이터 보안, 비용 효율성 및 규제 준수를 위해 중요한 클라우드 기반 프로세스를 사내에 도입하는 ‘클라우드 송환’ 운동의 확산을 반영한다.

조직은 프라이빗GPT(PrivateGPT)를 채택함으로써 외부 공개 모델과의 상호 작용을 제한하는 하이브리드 AI 아키텍처를 구현해 데이터 노출 위험을 줄일 수 있다. 이 접근 방식은 민감한 정보를 보호하면서 AI의 힘과 유연성을 활용할 수 있도록 보장해 준다. 2025년에 조직은 단순한 AI 보유를 넘어 그 가치 때문에 AI를 요구하게 될 것이며, 이는 더욱 실용적이고 영향력 있는 AI 도입으로 이어질 것이다.

또한 우리는 AI 모델과 챗봇에서 생성된 아이덴티티와 생성형 AI가 만들어내는 방대한 수의 머신 아이덴티티도 고려해야 한다. 이러한 새로운 아이덴티티는 오용을 방지하고 데이터 무결성을 보장하기 위한 강력한 관리 및 보안 조치가 필요하다.

3. 2025년에는 자율 AI 기반 사이버 공격이 등장해 개인이 국가가 후원하는 그룹과 동등한 수준의 독립적으로 APT를 수행할 것이다.

지금까지 사람들은 APT(Advanced Persistent Threats, 지능형 지속 위협)를 주로 국가 또는 악의적인 행위자 그룹이 공동의 목표를 달성하기 위해 협력하는 조직이 실행한다고 이해해 왔다. 이러한 위협은 일반적으로 확장되고, 전략적인 사이버 작전을 위해 조정된 팀과 정교한 인프라에 의존한다. LLM 및 기타 첨단 AI 기술에 접근할 수 있다면, 한 개인이 국가가 후원하는 그룹과 동등하게 APT를 운영할 수 있을까?

단독 공격자는 LLM을 프로그래밍 방식을 활용함으로써 일반적으로 전체 해커 집단이 필요한 많은 작업을 자동화할 수 있으며, 협업 필요성이 줄어들어 개인이 독립적으로 대규모 복잡한 사이버 작전을 수행할 수 있게 됐다. 게다가 국가 주도의 공격자들은 완전히 자율적인 사이버 무기를 기반으로, 처음부터 설계된 독립형 AI/LLM 시스템을 개발할 가능성이 있다.

최근의 발전은 사이버 전쟁에서 공격적인 AI의 부상 가능성이 점점 더 커지고 있다는 것을 시사하는데, 특히 이를 개발할 자원을 소유한 국가들 사이에서 그렇다. 지난 11월에 구글은 자사의 버그 탐지를 위한 고급 AI 모델인 빅 슬립 프로젝트가 SQ라이트(SQLite)에서 제로데이 취약점을 자율적으로 발견했다고 발표했다. 이 획기적인 사건은 AI 기반 시스템이 인간 분석가보다 복잡한 취약점을 더 빠르고 정확하게 식별할 수 있음을 보여주며, AI가 현재 인간의 능력을 넘어 정교한 공격적 사이버 작전을 수행할 수 있는 잠재력을 강조한다.

구글의 입증된 역량을 고려할 때 적대적인 국가들은 이미 전략적인 우위를 점하기 위해 유사한 시스템을 발전시키고 있을 가능성이 높다. 사이버 전쟁이 현대 분쟁의 주요 도구로 부상함에 따라 우리는 이르면 2025년부터 무기화된 AI 도구가 실시간 공격에 배치되는 것을 볼 수 있다.

공격적인 AI 사용이 증가함에 따라 악성 콘텐츠 생성, 정교한 사이버 공격 실행 및 민감한 데이터 조작 같은 심각한 보안 위협이 발생하고 있다. 이에 대응하기 위해서는 오용을 실시간으로 탐지, 대응 및 예방할 수 있는 보다 진보된 AI 시스템이 필요하다. 이러한 시스템은 기존 방법보다 더 빠르게 위협을 식별하고, 공격이 확대되기 전에 무력화함으로써 사이버 보안을 강화할 수 있다.

AI 방어 강화는 중요한 인프라, 민감한 정보 및 디지털 시스템에 대한 대중의 신뢰를 보호하는 데 필수적인 요소다.

2025년 사이버 보안 문제에 대비하기

지난 한 해를 돌아보면, AI가 국제 수학 올림피아드에서 최상위권 학생들과 비슷한 성적을 거두는 것부터 LLM의 무기화에 이르기까지 우리가 목격한 발전의 정도를 정확하게 예측할 수 있는 사람은 아무도 없었을 것이다. 미래는 여전히 불확실하고, 추측으로 가득 차 있다. 그러나 우리 앞에 알려지지 않은 사실로 가득차 있음에도 불구하고, 2025년에는 의심할 여지없이 새로운 제로데이 익스플로잇과 공격이 발생할 것이기 때문에 이 길을 계속 묵묵히 걸어나가야만 한다.

이러한 불확실성은 사전 예방적 보안 조치의 필요성을 강조한다. 어떤 새로운 보호가 필요할지 정확히 예측할 수는 없지만, 핵심 취약점을 해결하는 것이 중요하다는 것은 인지하고 있다. 우리는 진화하는 위협에 대응하기 위해 강력한 아이덴티티 보안 기반, 적응형 다중 요소 인증(MFA), 강력한 특권 엑세스 관리(PAM), 싱글사인온(SSO) 및 향상된 엔드포인트 관리와 함께 제로 스탠딩 권한(ZSP)과 같은 전략으로 보안 태세를 강화해야 한다.

이러한 조치들은 우리가 새로운 위협들보다 앞서 나가고, 앞에 펼쳐인 미지의 위협으로부터 더 잘 방어하는 데 도움이 될 것이다.