S2W, ‘ISCR 2025’서 생성형 AI 위협 대응 방안 발표
‘시큐리티 가드레일’ 등 사이버 위협 방어 체계 제시
[아이티데일리] 빅데이터 분석 인공지능(AI) 기업 에스투더블유(S2W, 대표 서상덕)는 지난 26일 오후 서울 서초 JW 메리어트 호텔 서울에서 열린 ‘2025 국제사이버범죄대응 심포지엄(ISCR 2025)’에서 생성형 AI 시대의 신종 보안 위협을 주제로 발표했다.
경찰청 수사국이 주관하는 ISCR은 ‘사이버 치안 거버넌스를 통한 안전 확보’를 목표로 사회 각계의 사이버범죄 전문가들이 참석하는 심포지엄이다. 올해 행사는 ‘사이버 세상 속 신뢰: 모두를 위한 안전’을 주제로 개최됐다.
이날 열린 1일차 행사에서 S2W 양종헌 오펜시브연구팀장은 ‘AI 에이전트 및 멀티 에이전트 시스템 취약점 및 보안 위협’을 주제로 발표했다. 양 팀장은 프롬프트 인젝션(Prompt Injection), 데이터 포이즈닝(Data Poisoning) 등 거대언어모델(LLM) 기반 시스템의 취약점을 공략하는 보안 위협 8종과 이에 대한 대응책을 소개했다.
프롬프트 인젝션은 악의적 입력을 정상 프롬프트로 위장시켜 민감 데이터를 유출하거나 잘못된 정보를 유포하도록 생성형 AI 시스템을 조작하는 수법이다. 데이터 포이즈닝은 공격자가 AI 모델을 개발하는 데 쓰이는 학습 데이터를 조작하거나 망가뜨리는 사이버 공격의 한 유형이다.
이어 ‘랭스미스 랭체인 허브 어뷰징(LangSmith Langchain Hub Abusing)’, ‘레노버 ‘레나’ 챗봇 XSS(Lenovo ‘Lena’ ChatBot XSS)’ 등 올해 발생한 생성형 AI 위협의 주요 사례를 공유했다.
S2W는 LLM의 개발·배포·운영 과정에서 안전성과 신뢰성을 확보하는 방어 체계인 ‘시큐리티 가드레일(Security Guardrail)’을 구현, 산업 특화 AI 플랫폼 ‘SAIP(S2W AI Platform)’에 탑재시켰다.
아울러 S2W의 위협 인텔리전스 센터 ‘탈론(TALON)’은 지식 그래프 기술로 악성코드 및 취약점과 공격자 간 연관성을 파악해 기업이 사이버 위협으로부터 최적의 방어 전략을 구축할 수 있도록 돕고 있다.
양종헌 팀장은 “이번 심포지엄 발표는 구체적인 사례를 통해 생성형 AI 시대 보안 위협의 실체를 심층 조명하고, 이를 선제적으로 차단하는 방안을 공유하는 뜻깊은 기회였다”며 “S2W는 생성형 AI가 불러온 새로운 위협을 분석하고, 실제 현장에서 적용 가능한 고도화된 방어 체계를 구축하는 데 주력할 것”이라고 말했다.