[아이티데일리] 기업이 AI의 윤리성을 지키기 위해서는 비(非) 기술 분야 임원의 적극적인 개입이 필요하다는 인식이 확대되고 있다.

IBM기업가치연구소(IBV)가 기업 내 AI 윤리 도입 및 실행 책임에 대한 인식 변화를 담은 ‘AI 윤리 실천: 신뢰할 수 있는 AI의 발전을 위한 기업 지침서’를 26일 공개했다.

이번 보고서는 22개 국가, 22개 산업 내 1,200명의 임원을 대상으로 AI 윤리의 중요성에 대한 임원의 의견과 조직의 운영 방식을 조사한 결과다. 해당 조사는 IBM기업가치연구소와 옥스퍼드 이코노믹스(Oxford Economics)의 협업으로 진행됐다.

기업 내 AI 윤리를 담당하는 임원이 누구여야 하는가 질문에 대해 응답자 10명 중 8명은 CEO 등 비 기술 분야 임원을 꼽았다. 동일한 질문에 대해 지난 2018년에는 단 15%만이 비 기술 분야 임원을 선택했다. 이는 기업의 AI 윤리 조성 및 실행의 책임 소재에 대해 큰 인식 변화를 나타냈다.

AI 윤리 부문의 가장 큰 책임자는 CEO(28%)이며, 이사회 임원진(10%), 최고법률책임자(10%), 개인정보보호 책임자(8%), 리스크 및 컴플라이언스 담당자(6%) 등으로 집계됐다. 응답자의 66%는 CEO 등 C-레벨 경영진이 기업의 윤리 전략에 가장 큰 영향을 미친다고 답했고, 50% 이상이 이사회 임원(58%)과 주주공동체(53%)를 꼽았다.

이번 조사에 참여한 기업 경영진의 75% 이상은 AI 윤리가 기업에 중요하다는 점에 대해 동의한다고 답했다. 2018년 동일 질문에 대한 응답은 50% 수준이었다. 또한 응답자의 75%는 윤리성이 기업의 차별화된 경쟁력이라고 답했으며, AI 및 AI 윤리를 중요하게 여긴다고 답한 응답자 중 67%는 자사 조직이 경쟁사 대비 지속가능성, 사회적 책임, 다양성 및 포용성 측면에서 더 나은 성과를 거두고 있다고 답했다.

한편 최근 많은 기업들이 AI 윤리를 실행에 옮기기 시작한 것으로 나타났다. 응답자 중 절반 이상은 AI 윤리를 기존 기업 윤리에 접목하는 데 착수하고 있다고 답했으며, 45% 이상은 자신의 조직에서 AI 프로젝트 위험 평가 프레임워크, 감사 및 검토 프로세스와 같은 AI 윤리 관련 매커니즘을 만들었다고 답했다. CEO 응답자 중 79%는 AI 윤리를 AI 관련 업무에 포함할 준비가 되어 있다고 답했다.

그러나 많은 기업들의 의지와는 별개로 실제 실행과는 간극이 있는 것으로 나타났다. 응답 기업 중 절반 이상은 AI 윤리를 위한 공통 원칙을 공개적으로 지지하고 있지만, 이를 도입 또는 시행 중이라고 답한 곳은 25% 미만에 불과했다. 조직의 관행과 행동이 AI 윤리의 원칙과 가치에 일치한다고 강하게 동의한 응답자 역시 20% 미만이었다.

IBM 지저스 만타스(Jesus Mantas) 컨설팅 글로벌 매니징 파트너는 “오늘날 많은 기업이 사업 전반에서 AI 알고리즘을 사용함에 따라, 공정하고 안전하며 신뢰할 수 있는 AI 알고리즘 설계에 대한 조직 내외의 요구사항은 증가할 것이다. 그럼에도 불구하고 산업 전반에서 실제 AI 윤리 가치를 적극적으로 도입하는 기업은 아직 많지 않은 것으로 나타났다”며, “이번 연구 결과는 신뢰할 수 있는 AI 구축이 단순히 규정을 준수하는 문제가 아니라 비즈니스 필수 사항인 동시에 사회적 기대치임을 보여준다. 따라서 기업은 AI 전체 수명 주기에 걸쳐 거버넌스 모델을 구현하고 윤리적 원칙을 포함해야 한다”고 말했다.

IBM기업가치연구소 보고서를 통해 비즈니스 전반에 광범위한 AI 윤리 전략을 도입하는 조직이 경쟁 우위를 선점할 수 있다고 강조하고, 이를 위해 다음과 같은 권고사항들을 제시했다.

먼저 다양한 부서 및 기능을 아우르는 통합적 협업 접근방식을 갖춰야 한다. AI 윤리는 개발 과정에 참여하는 모든 이해관계자의 다양한 역량에 대해 통합적 협업 접근방식이 있어야 유지될 수 있다. 이에 최고 경영진, 디자인, 행동 과학자, 데이터 과학자, AI 엔지니어 등 관계자 모두는 신뢰할 수 있는 AI 개발 과정 속에서 각기 고유한 역할을 담당해야 한다.

AI 윤리의 규율을 운영하기 위한 조직 및 AI 수명주기 거버넌스 확립도 필요하다. 이를 통해 책임감을 가지고 AI를 개발하기 위해 올바른 문화 구축에서 실행, 정책, 제품에 이르기까지 전체 AI 수명주기에 걸쳐 AI 솔루션을 장려하고 관리하는 전체적인 접근방식을 취해야 한다.

끝으로 AI 기술 파트너, 학계, 스타트업 및 기타 생태계 파트너와의 협업을 통해 기업의 접근 방식을 확장하고, ‘윤리적 상호 운용성’을 구축해야 한다.