[아이티데일리] 과학기술정보통신부(장관 유상임)는 26일 서울 전쟁기념관에서 ‘인공지능(AI) 신뢰·안전성 학술회의’를 개최했다고 밝혔다.

이번 학술회의는 국제적으로 강조되는 AI 신뢰·안전성 관련 기술·정책 동향을 공유하고, 올해 정부지원 연구결과물의 주요 성과와 민간의 이행 현황을 점검하고자 마련됐다.

AI 분야 세계적 석학인 몬트리올대 요슈아 벤지오 교수는 기조 강연에서 AI 안전 확보를 위한 정책과 과학의 중요성을 강조하며 “최점단 AI 모형의 위험에 대한 효과적 관리를 위해 국내 법-국제협약 간 상호 조화가 필요하다”고 조언했다.

이어진 두 번째 기조 강연에서는 한국과학기술원(KAIST) 오혜연 AI연구원장이 국제 사회의 AI 패권 경쟁 동향을 공유하고 전략 자산으로서 AI의 중요성을 강조했다.

이 밖에도 튜닙 박규병 대표는 ‘AI 안전장치(가드레일) 해결책을 활용한 다양한 형태의 위험 탐지 및 대응방안’을 소개했고, 포티투마루 김동환 대표는 ‘AI 신뢰성 인증(한국정보통신기술협회) 획득 등을 통한 자사 거대언어모델(LLM) 신뢰·안전성 확보 사례’를 주제로 발표했다.

이날 회의에는 삼성전자, 네이버, 카카오, SKT, KT, LG AI연구원 등 국내 6개 기업이 참석했다. 이들 기업은 지난 5월 ‘AI 서울기업서약’에 참여해 책임 있는 AI 개발·활용 보장 등에 대한 자발적 이행을 약속한 바 있다.

국내 6개 기업은 이날 안전하고 신뢰할 수 있는 AI를 개발하기 위한 위험 관리 방안 수립, 기술 연구, 내부 협치체계 마련 등 각사의 이행 현황을 공유했다.

‘제2회 인공지능 신뢰성 대상’ 시상식도 개최됐다. 대상은 다비오가 개발한 ‘다비오 어스아이2.0’가 수상했다. 해당 솔루션은 ‘신뢰할 수 있는 인공지능 개발안내서’에 기반해 자체 데이터 품질관리 절차를 수립‧적용해 높은 평가를 받았다.

과기정통부 송상훈 정보통신정책실장 “민간 자율에 기반한 책임 있는 AI 개발‧활용 문화가 확산할 수 있도록 정책 지원을 강화하는 한편, 첨단 AI로 인한 잠재적 위험에 대비해 AI안전연구소를 출범하고 국가 차원에서 체계적으로 대응해 나가겠다”고 밝혔다.