[아이티데일리] 과학기술정보통신부(장관 유상임)는 27일 판교 글로벌 R&D 센터에서 ‘인공지능(AI)안전연구소’ 개소식을 개최했다고 밝혔다.

AI안전연구소는 AI의 기술적 한계, 인간의 기술 오용 및 통제력 상실 등으로 발생하는 다양한 위험에 체계적·전문적으로 대응하기 위한 안전 연구 전담 조직이다. 산학연 기관이 AI 안전 연구 협력과 정보 교류를 할 수 있는 중심지이자, 국제 AI 안전연구소 관계망의 일원으로 세계 연대의 책임 있는 역할을 담당한다.

개소식에는 과기정통부 류광준 과기혁신본부장, 국가AI위원회 염재호 부위원장 등 AI 분야 핵심 관계자 40여 명이 참석했다. 국가AI위원회 국제 자문위원인 몬트리올대 요슈아 벤지오(Yoshua Bengio) 교수와 미국 AI안전연구소 엘리자베스 켈리(Elizabeth Kelly) 소장 등이 축하 인사를 전했다.

초대 소장으로는 서울여대 김명주 정보보호학부 교수가 임명됐다. 김명주 소장은 “AI 활용으로 발생할 수 있는 위험 평가와 이를 예방‧극소화하기 위한 정책‧기술을 개발‧보급하고, 국내‧외 연대를 강화해 나갈 것”이라고 밝혔다.

이어진 ‘대한민국 AI안전컨소시엄’ 협약식에는 국내 AI 분야 대표 산학연 기관 24곳이 참여해 정책연구, 평가, 연구개발의 상호협력을 위한 업무협약(MOU)을 체결했다.

컨소시엄은 AI안전연구소와 함께 안전 체계(프레임워크) 연구·개발·실증, 안전 관련 국제 규범 대응 등 정책 연구, 기술 협력 등을 중점 추진할 예정이다. 컨소시엄의 세부 연구 주제와 운영 방안은 앞으로 구체화해 나갈 계획이다.

과기정통부 유상임 장관은 “AI 안전은 모두가 함께 해결해야 할 큰 도전 과제”라며 “AI안전연구소를 중심으로 산학연 연구 역량을 결집해 기술·정책적 역량을 조속히 확보해 대한민국 AI 산업 혁신을 촉진할 튼튼한 안전 기반을 마련하겠다”고 밝혔다.