[아이티데일리] “인공지능(AI)이 인간을 능가하는 데 그리 오랜 시간이 걸리지 않을 것이다. 어느 시점을 지나면 기계가 우리의 통제권을 지니게 될지 모른다. 이에 따라 실생활에서 다양한 혜택을 누리면서도 우리가 원하는 방향으로 시스템이 작동하는 ‘안전한 AI’가 더욱 중요해질 것이다.”

1일 서울시청 다목적홀에서 열린 ‘AI 서울 2024’에서 UC버클리대학교 전기공학 및 컴퓨터과학과 스튜어트 러셀(Stuart Russell) 교수는 기조연설을 통해 이 같은 의견을 공유했다.

AI 서울 2024는 서울시에서 ‘AI, 일상과 사회, 그리고 내일을 바꾸다’를 주제로 개최한 국제 AI 콘퍼런스로, 행사일 하루 동안 AI 기술 개발을 이끄는 세계적 석학, 딥러닝 권위자, 구글·아마존·네이버 등 주요 프로젝트 총괄 등의 인사이트를 알아보는 프로그램으로 구성됐다.

오세훈 서울시장은 환영사를 통해 “AI는 먼 미래가 아니라 현실이다. 앞으로 산업뿐 아니라 인간과 기술의 벽까지 허물게 될 것”이라며 “AI 서울 2024가 AI로 변화하는 일상과 사회를 상상해 보는 유익한 자리가 되길 바란다. 서울시가 글로벌 AI 중심 도시로 도약할 수 있도록 많은 관심과 격려 부탁드린다”고 밝혔다.

이날 기조연설은 UC버클리대 스튜어트 러셀 교수와 서울대학교 AI 연구원 장병탁 원장이 맡았다.

글로벌 AI 트렌드 및 전망을 주제로 기조연설을 발표한 스튜어트 러셀 교수는 AI가 가져올 미래를 긍정적으로 평가했다. 러셀 교수는 “다양한 방향으로 활용되는 ‘범용 AI’는 전 세계 인류의 삶을 유익하게 만들 수 있다. 헬스케어, 교육 등 여러 분야가 혁신적으로 변화하고 이를 통한 경제적 효과도 막대할 것”이라고 전망했다.

하지만 고도화된 AI가 인간의 통제를 벗어날 가능성을 우려했다. 스튜어트 러셀 교수는 “클릭률 극대화를 목표로 한 AI가 사람들의 호기심을 유도하는 클릭 베이트(click bait)를 학습하는 데 그치지 않고, 사람을 예측 가능한 방향으로 이끄는 극단적인 방식으로 변화할 수 있다”면서 “이처럼 인간이 아니라 AI가 최종 통제권을 쥐는 방향으로 변화할 가능성도 고민해야 한다”고 지적했다.

이어 러셀 교수는 “현재로서는 AI의 작동 방식을 100% 이해할 수 없다. 따라서 우리가 잘 이해하고 역량을 파악할 수 있는 ‘잘 정립된 AI’(Well-founded AI, WFAI)가 필요하다”면서 “안전한 AI를 만들기 위한 국제적 협력이 이뤄져야 할 것”이라고 제언했다.

다음으로 연단에 오른 서울대 AI 연구원 장병탁 원장은 국내 AI 트렌드 및 전망을 주제로 AI의 역사와 원리를 소개했다. 장병탁 원장은 “고전적 AI는 지식을 주입하는 형태였고, 21세기 들어서는 기계가 데이터를 학습하는 형태로 변화했다”며 “인터넷을 통해 많은 자료가 전자화됐고 이러한 데이터를 바탕으로 최근 2~3년 사이 AI가 빠르게 발전하고 있다”고 설명했다.

장병탁 원장은 AI가 뛰어난 성능으로 혁신을 이끌고 있지만 텍스트만으로 학습된 현재 모델 형태는 한계가 있다고 지적했다. 장 원장은 “거대언어모델(LLM)과 같은 AI는 아직 텍스트 중심으로 학습이 이뤄지기에 단어를 받아들일 뿐 현실 세계를 이해하지는 못한다. 이로 인한 잘못된 정보가 나타날 수 있다”면서 “앞으로는 현실에서 세상을 경험하며 지식을 쌓아가는 ‘몸을 가진(embodied)’ AI가 발전하게 될 것”이라고 전망했다.

이 밖에도 이날 행사는 국제포럼, IR 세션, 기술 세션 등 3가지 트랙으로 나뉘어 공공과 산업 분야의 AI 혁신 사례가 발표됐다.

국제포럼에서는 국내외 정부 기관 및 기업 관계자가 참여해 AI를 통한 공공 혁신 협업 및 융합 사례를 발표했다.

IR 세션에서는 서울시에서 추진 중인 AI 사업 육성 정책과 AI 스타트업을 지원하는 서울 AI 허브의 성과가 공유됐다. 또한 동아리 아이디어톤 우수사례가 소개됐으며, 스타트업을 위한 IR 피칭도 마련됐다.

기술 세션에서는 최근 2~3년간 유명 해외 저널에 게시된 AI 관련 우수 논문 50여 편의 논문 저자들이 참여해 컴퓨터 비전, 기계학습 등을 주제로 최신 기술 이슈를 발표했다.

한편, 서울시는 AI 시대를 맞아 올해 행정서비스에 AI를 도입하고, 2028년까지 양재동에 ‘AI 서울 테크시티’를 조성하는 등 관련 정책을 적극적으로 추진하고 있다.