솔트룩스, 생성 AI 모델 윤리성 향상 연구 워크숍 개최

[아이티데일리] 인공지능(AI) 전문기업 솔트룩스(대표 이경일)는 지난달 30일 자사가 주관한 ‘사회적·윤리적 학습을 위한 데이터 특성 및 생성 AI 모델의 윤리성 향상 연구’ 과제와 관련된 워크숍이 성황리에 종료됐다고 밝혔다.

이번 워크숍에는 서울대학교, 성균관대학교, 서강대학교, 건국대학교, 한국과학기술원(KAIST), KT, 한국전자통신연구원(KETI), 다이퀘스트 등 8개의 주요 대학, 연구기관, 기업이 참여했다.

워크숍은 ‘사회적·윤리적 학습을 위한 데이터 특성 및 생성 AI 모델의 윤리성 향상 연구’에 대한 가이드라인을 수립하고 연구 성과를 공유하기 위해 마련됐다.

참석자들은 다양한 도메인에서 생성 AI의 사회적·윤리적 능력을 보편적 특성에 맞게 개선하는 방안과 이를 지속 가능하고 확장 가능한 플랫폼으로 구현하는 방안을 논의했다.

참여 기관들은 각자의 전문성을 바탕으로 사회적·윤리적 편향을 최소화한 데이터셋을 개발하고, 이를 통해 생성 AI의 윤리성을 향상하기 위한 연구를 진행 중이다. 학제 간 협력을 강화하기 위해 ‘MoEE(Mixture of Ethics Experts)’ 기술이 개발됐으며, 이를 통해 AI 모델의 윤리적 기준을 강화하는 기반을 마련하고 있다.

솔트룩스 측은 이번 연구 과제의 최종 목표가 ‘에식스-젠AI옵스(Ethics-GenAIOps)’ 오픈 플랫폼을 개방하고 100만 명 이상의 대국민 서비스 사용자를 확보하는 것이라고 밝혔다.

또한 오는 12월 4일 서울대학교 AI연구원 인공지능 ELSI 연구센터가 주최하는 ‘2024 인공지능 ELSI 심포지엄’에 참여, 다양한 전문가들과 AI 윤리, 편향성, 신뢰성 등을 주제로 의견을 나눌 예정이다.

솔트룩스 관계자는 “이번 워크숍은 각 기관의 연구 성과를 공유하고 다각적인 시각과 인사이트를 얻는 유익한 자리였다”며 “성공적인 과제 수행을 위해 앞으로도 지속적으로 협력과 성과 공유의 장을 마련할 계획”이라고 밝혔다.