美·中, 범용AI(AGI) 넘어 초지능 개발도 전쟁 중…디스토피아 우려 ↑

[아이티데일리] AI 연구개발자이자 인공초지능연합(Artificial Superintelligence Alliance, ASI Alliance)의 CEO인 벤 괴첼(Ben Goertzel) 박사가 테크퍼스트 주최 팟캐스트에서 범용인공지능(AGI: (Artificial General Intelligence)의 개발은 2년 정도 후에 실현될 것이며, 이미 미국과 중국을 중심으로 AGI의 다음 단계인 초지능(Superintelligence) 개발 전쟁이 벌어지고 있다고 밝혔다.

괴첼은 팟캐스트에서 누가, 또는 어느 나라가 초지능 개발 경쟁에서 승리하느냐에 따라 앞으로의 기술 개발 방향은 물론 세계 패권의 향방까지 결정될 수 있다고 지적했다. 그에 따르면 현재 전 세계의 초지능 개발 경쟁에는 ▲미국 정부 ▲미국의 빅테크들 ▲중국 및 중국의 빅테크들 ▲오픈소스 커뮤니티 등 네 개의 주요 플레이어가 존재한다.

괴첼은 “지금 우리는 국가적으로 미국과 중국, 민간에서는 미국과 중국 내 기업들 사이에서 AGI를 둘러싼 개발 경쟁이 본격화되고 있다”면서 초지능으로까지 무한 경쟁이 벌어지는 것은 바람직하지 않다는 견해를 보였다. 최근에는 초지능 개발 금지를 촉구하는 공개 서한도 발표됐는데, 여기에는 5만 명 이상이 서명했다. 서명자에는 AI의 개척자 제프리 힌튼, 애플 공동 창업자 스티브 워즈니악, 억만장자 리처드 브랜슨, 여러 국가 정상들이 포함됐다.

그러나 괴첼은 이런 ‘AI 브레이크’ 움직임과 달리 AGI의 실현이 앞으로 2년 안에 이루어질 가능성이 있다고 예상했다. 그러면서 초지능의 전 단계인 AGI의 등장은 피할 수 없는 흐름이라고 확신했다.

괴첼은 2005년 저서에서 AGI를 “자신의 학습 데이터를 넘어 지식을 일반화할 수 있는 지능형 AI 시스템”이라고 정의하고 있다. 예를 들어 인간은 자전거를 한 번 배우면, 그 균형 감각과 조작 능력을 실제로는 배우지 않은 스쿠터나 스키에도 응용할 수 있다. AGI는 그 정도의 단계로 진입한 AI다.

결국 ‘인간 수준에 접근한 AGI’는 “경험을 넘어 학습 내용을 일반화하고 확장할 수 있는 시스템”이며, 그 다음 단계인 초지능은 인간을 훨씬 능가하는 일반화와 확장 능력을 갖게 될 것이라고 말한다. 괴첼은 “지금의 기술 사회가 큰 재앙 없이 계속된다면 초지능의 등장은 피할 수 없을 것”이라고 말했다.

로이터 등 다수의 매체가 전한 공개 서한은 초지능의 잠재적 리스크로 ▲인간의 경제적 무력화와 실직 ▲자유·인권·존엄성의 상실 ▲국가 안보 위협은 물론 심지어는 인류 멸종 가능성까지 경고하고 있다. 영화 터미네이터 시리즈를 연상하면 (그런 현실이 올 가능성은 차치하더라도) 끔찍한 상황이 될 수 있다.

AI 칩 공급 능력을 기준으로 하면 미국은 세계 1위의 AI 강국이며 초지능 개발에 가장 많이 접근한 나라다. AI 칩만을 기준으로 보면 중국은 7위에 머물러 있다. 이 때문에 중국 정부와 민간은 GPU 대량 투입보다는 효율성 중심 전략을 택하고 있다.

이 경쟁의 승자는 향후 수십 년간 기술·비즈니스 패권을 쥐는 동시에 전 지구적으로 막대한 영향력을 확보하게 될 가능성이 크다. 괴첼은 “일단 AGI가 어디에서, 어떤 방식으로 출현하는가가 또 다른 엄청난 차이를 만들 것”이라고 전망했다. 그것이 중국 기업의 서버팜(AI 데이터센터 개념)에서 구동될지, 미국 정부의 통제에서 살짝 벗어나 있는 구글의 서버팜일지, 아니면 100개국 이상에 분산된 오픈 네트워크일지에 따라 그 사고 과정을 누가 통제하느냐가 달라지기 때문이라는 것이다.

중국 정부나 중국계 빅테크가 개발한 AGI는 궁극적으로 국가 통제 도구가 될 수 있다. 국민은 AI 기반 서비스와 인프라 최적화를 통해 편리함을 누리겠지만, 그 대가로 감시, 검열, 사회 통제가 강화될 가능성이 있다.

미국 정부가 통제하는 AGI 역시 ‘국가안보’라는 명분 아래 막대한 감시력과 통제권을 가질 수 있다. 만약 실리콘밸리 빅테크가 주도해 AGI가 탄생한다면 상업적 최적화에 초점을 맞출 가능성이 높다. 이 경우 초지능은 각종 앱·서비스·플랫폼에 통합돼 광고와 콘텐츠를 극단적으로 개인화하고, 사용자의 관심·소비·구독을 극대화할 것이다. 지구적 문제 해결보다는 이익 극대화에 우선할 수 있다는 우려도 있다.

오픈소스 커뮤니티가 AGI 개발을 주도한다면 가장 바람직한 결과를 낳는다. 누구나 접근 가능하기 때문에 연구자, 기업가, 개발자, 국가 등 모두에게 혜택을 돌릴 수 있다. 괴첼은 오픈소스 커뮤니티를 지지하는 입장이며, 이를 ‘지능 분야에서의 리눅스’라고 지칭한다. 그러나 오픈소스가 주도할 가능성은 네 그룹 가운데 가장 낮다.

괴첼은 초지능이 일부 세력에 의해 무기화될 가능성이 있지만 “디스토피아를 전제로 할 필요는 없다”고 지적하고 “인간과 디지털 생명이 함께 협력하며 세상을 더 낫게 만드는 AGI를 만들어낼 수 있을 것”이라고 강조했다.