09.25
뉴스홈 > 칼럼
[전문가 기고] 인간의 ‘통제’ 욕구에 맞서는 스마트 머신스테판 프렌티스(Stephen Prentice) 가트너 부사장

   
▲ 스테판 프렌티스(Stephen Prentice) 가트너 부사장

[컴퓨터월드] 지능을 가진 휴머노이드 로봇은 공상과학소설의 단골 소재였다. 그러나 과학적 근거라는 현실의 벽에 번번이 부딪혀야만 했다. 인공지능 엔진을 가동할 컴퓨팅 파워만으로는 역부족이었던 셈이다. 지난 10년에서 15년 사이 이뤄진 기술 분야의 급속한 발전은 해당 논의를 재점화하며, 더 열정적이고 감정적인 논쟁을 만들어냈다. 스마트 머신이 차를 운전하고, 인간과의 체스 대결에서 승리하며, 의료진단을 조언하는 세계에서, 이러한 논의는 하나의 질문으로 귀결된다. 바로 “기계가 인간보다 더 똑똑해지는 시점은 언제일까?”라는 것이다.

이 질문은 수없이 복잡한 기술적, 철학적, 윤리적, 종교적 심지어 정의 문제를 야기 시킨다. 이정표라 불릴만한 이 역사적인 순간은 ‘기술적 특이점(Technological singularity)’이란 용어로 알려져 있다. 이 용어는 인공지능이 인간의 지능을 넘어서는 시점을 2029년에서 2045년 사이로 예측한 레이 커즈와일과 같은 미래학자들에 의해 유명해졌다. 그러나 인류가 절대 ‘특이점’에 도달하지 못할 것이라는 의견도 적지 않다.

특이점 자체와 언제 ‘특이점’이 현실로 다가올지에 대한 논의는 매력적이고 흥미롭다. 그러나 ‘특이점’은 CIO들에게 기껏해야 센서와 자율화된 스마트 머신의 역량 강화 등 기간 기술이 야기하는, CIO와 비즈니스 리더들에게 영향을 미칠 더 중요한 문제들로부터 한숨 돌릴 수 있는 기분전환 소재일 뿐이다.

CIO는 다음의 두 가지 관점에서 스마트 머신을 고민해야 한다. 첫째, 스마트 머신의 역량이 강화되면서 인간 노동력의 대체제로 부상할 수 있다는 예측은 충분히 논리적이며, 이는 많은 측면에서 비즈니스에 중대한 영향력을 미칠 것이다. 둘째, 스마트 머신의 역량이 향상되면서 잠재적으로 인간의 개입 없이 더 중대한 결정을 내리는데 관여할 가능성이 크다. 주식시장 및 외환거래 등의 프로그램 매매에서는 이미 관찰되는 현상이다. 이는 스마트 머신에 대한 인간의 통제가 무력화 될 수 있다는 생각을 불러일으키며 관련해 중대한 법적, 윤리적 논쟁을 야기한다.

스마트 머신이 점차 더 많은 기능을 수행하게 되면서 특수 상황에서 인간 근로자의 현실적 대안이 될 것이며, 이는 기업과 CIO들에게 상당한 반향을 일으킬 것이다.

자동화 머신과 로봇이 역량 향상으로 인해 다양한 산업과 기업 환경에 도입되면서 이미 제조업 등에서는 기존 일자리에 미칠 영향에 관한 논쟁이 활발하다. 보다 다양한 역량을 갖춘 스마트 머신이 등장하면서 지식 기반 및 관리직과 같은 분야도 동일한 위협을 감지하는 추세다. 해당 분야에서 실직자가 발생했을 때 그 결과가 매우 정치적일 수 있음을 감안하면 노동시장에 대한 스마트 머신의 장기적인 영향력이 어떨지는 불확실하다. 아직 많은 비즈니스 리더들은 스마트 머신이 지식 기반 및 관리직의 역할을 대신할 가능성에 대해서는 회의적이다.

가트너가 2015년에 실시한 CEO 및 비즈니스 리더 대상 조사에서 이 문제에 대한 의견은 양분됐다. 2013년의 조사 결과와 비교했을 때 크게 변화한 것으로, 비즈니스 리더들이 기술적 발전을 인식하기 시작했으며 중간층 지식 업무에 대한 위협이 실재하며 증가하고 있다고 믿기 시작했음을 보여준다(그림 1 참조).

   
▲ 스마트 기계가 지식 근로자들을 대신할 것인가

스마트 머신의 역량은 향상되고 가격은 낮아지고 있기 때문에, 앞으로 산업 전반에서 인간 근로자를 대체하며 여러 역할에 활용될 것이란 점은 의심의 여지가 없다. 하지만, 이는 새로운 문제가 아니다. 인쇄기의 등장과 산업 혁명 등 역사의 흐름 속에서 보면 신기술의 도입은 수백만 개의 일자리를 앗아갔다. 동시에 신기술에 의해 완전히 새로운 산업이 탄생했으며, 수백만 개의 일자리가 새롭게 창출됐다. “이번에는 다른 양상으로 전개될 것이며 스마트 머신이 일자리의 순 손실을 초래할 것”이라는 우려가 존재하지만, 이것 역시 전혀 새롭지 않은 주장이다. 단지 아직 새로운 일자리가 어떤 것인지 상상해내지 못한 것일 수 있다.

경제적 불확실성이 지속되는 기간 동안 높은 수준의 고용률을 유지하는 것은 매우 중요한 정치적 이슈이다. 동시에 모든 정부는 고부가가치 고용 기회를 창출함으로써 경제를 부양하고 민생 경제 전망을 개선할 수 있는 방안을 일제히 모색하고 있다.

기업은 산업용 로봇에서 IBM의 왓슨, 구글의 deep Q-network3 또는 마이크로소프트의 PReLU 4 등과 같이 복합 패턴 인식 및 자가 학습 기능을 갖춘 머신에 이르기까지, 다양한 스마트 머신이 가져온 ‘기술 발전을 활용해야 할 필요성’과 ‘일자리 손실에 따른 부정적인 영향’ 간에 균형을 찾아야 한다. 새로운 딜레마는 아니지만, 타이밍이 중요할 수 있다.

권고 사항
CIO들은 향후 몇 개월 동안 다음과 같은 4가지 실무적인 조치를 고려해야 한다.

■ 현 스마트 머신의 역량과 단기간에 현실화될 역량에 관한 최신 지식을 보유하고 항상 최신 정보를 유지하기 위해 지속적인 노력을 들여야 한다. 많은 업계 전문가들은 지난 12개월간의 인공 지능 및 관련 기술의 발전 속도에 놀라고 있다.

■ 가트너 연구 조사 및 관련 자료들을 활용해 자사 산업은 물론, 비슷한 이슈를 가진 다른 산업에서 스마트 머신 구축에 대한 평가와 시범이 어떻게 이뤄지고 있는지를 파악하라. 특히, 스마트 머신 구축으로 비즈니스 모델, 프로세스 또는 제품/서비스에 혁신을 가져온 소규모 스타트업 기업들을 주목할 필요가 있다.

■ 보유 지식을 기반으로 회사 동료들에게 곧 지원 예정인 기능과 가능한 경쟁 위협에 대해 알려라.

■ 보다 정확한 정보를 토대로 스마트 머신 도입에 대한 평가를 수행하고 입증할 수 있도록 관련 내부 지식, 역량 및 경험을 쌓을 수 있는 실험을 사전에 실시하라.

향후 5년 간 스마트 머신은 더 많은 의사 결정에 활용될 것이며 기업 측면에서 그 중요성이 높아질 것이다. 사용을 중단할 수 없거나 인간의 통제를 벗어날 수 있다는 우려가 높아짐에 따라 CIO들은 이러한 우려를 해결해야 한다.

지난 몇 십 년간 컴퓨터는 끊임없이 발전해 고급 맥락 정보를 제공하는 수준에 이르렀다. 초기에는 기업의 의사 결정을 지원했고 이후 방향을 제시했다면, 이제는 직접 의사 결정을 내리고 있다. 기계가 사람 대신 의사 결정을 하고 인간의 통제에서 벗어나기 시작하면 개인, 사회, 심지어 인류 자체를 위협할 수 있지 않을까라는 공포도 존재한다. AI와 스마트 머신에 의한 잠재적인 위협은 공상 과학과 미디어에서 이미 대중화된 소재이기도 하다. 최근 스티븐 호킹(Stephen Hawking) 박사나 엘론 머스크(Elon Musk) 테슬라 CEO와 같은 권위자들이 해당 주제를 집중 조명하면서 논란은 더욱 거세졌다.

이런 상황에서 CIO들은 스마트 머신의 역량과 한계를 기술적으로 더 깊게 이해하고, 편견과 오해로 얼룩진 스마트 머신의 위협에 현실성과 균형을 찾아줄 수 있도록 대비해야 한다.

현재까지 알려진 기술 내에서 보면 일정 수준의 ‘자가 인식’, ‘의식’ 또는 ‘지각’을 가진 머신은 여전히 공상 과학물의 소재에 불과하다. 능동적으로 학습하고 목표에 이르는 과정을 최적화하기 위해 행동을 수정할 수 있는 차세대 스마트 머신의 경우에도, 인간이 통제권을 유지할지를 선택할 수 있다.

인간이 속도와 규모에 대한 요구에 대응하는 것이 불가능해지면서 주식 및 외환 거래, 광고, e커머스 및 상거래 등의 업계에서는 이미 알고리즘이 통제권을 가져갔다. 그러나 인간이 목표를 설정하는 한 기계의 행위를 제한하는 것은 여전히 인간이며 통제권도 유지할 수 있다. ‘목표 추구’에서 ‘목표 설정’으로 발전하는 스마트 머신도 이론적으로는 가능한 이야기다. 그 결과 머신에 대한 통제력이 줄어들 수 있겠지만, 다음과 같은 질문에 답해야만 할 것이다.

“머신이 스스로 설정할만한 목표가 무엇인가?” 스마트 머신은 법적 실체가 아니다. 은행 계좌를 가지고 있지도 않고, 따로 프로그래밍 되지 않는 한 재정적 또는 사회적 동기에 의해 좌우되지 않는다. 자기 보존(self-preservation) 자체도 일정 수준의 자가 인식 및 의식 없이는 의미 없는 개념일 수 있다.

CIO들은 스마트 머신에 대한 논의가 현실성을 갖도록 해야 한다. 스마트 머신의 의사 결정 지원은 막대한 가치를 보유한다. 속도, 기억 용량, 객관성 등을 활용하면 인간의 ‘경험’이 아닌 사실에 기초해 보다 객관적으로 정보에 입각한 의사 결정을 내리도록 도울 수 있다.

그러나 스마트 머신이 직접 의사 결정을 내리도록 했건, 단순히 조언만 제시하도록 했건 간에 이러한 결정에 대한 법적 책임은 인간에게 있다. 물론, 이러한 상황은 바뀔 수 있다. 실제로 가트너는 향후 머신에 일부 제한적인 법적 책임이 부가 될 것으로 예측하기도 했다. 관련 윤리적 딜레마는 여전히 검토 중에 있다.

스마트 머신은 일부가 믿고 있는 것처럼 미래의 상황이 아니라 오늘날 기술 기반 기업 환경의 핵심 요소이다. 금융 서비스, 외환 거래 및 고속 알고리즘 주식 매매 등의 분야에서는 이미 현실화되기도 했다. 디지털 업계의 거인인 구글과 페이스북은 이미 복합 알고리즘을 이용해 사용자 활동을 기준으로 광고를 자동 선별하고 자체 페이지에 게시한다.

아마존과 넷플릭스도 유사한 알고리즘 엔진을 활용해 관심 상품이나 영화를 추천한다. 알리바바는 금융 내역이 충분하지 않은 경우, 소셜 네트워크 분석을 토대로 신용 등급을 추출하기 위해 유사 시스템을 활용한다. 제조 분야의 경우 재고량 유지를 위한 자동 공급 시스템이 이미 구축돼 있으며, 도로에는 자율 주행 자동차들이 출현하고 있다. 이와 같은 사례 등은 스마트 머신이 CIO와 비즈니스 리더들의 즉각적이고 신중한 조치가 필요한 대상이라는 사실을 분명히 보여 준다.

의료 중재, 수술, 생산 현장 로봇, M2M 통신, 드론, 대출 승인, 신용 등급, 긴급 파견 등 스마트 머신 시스템의 수와 이들이 내리는 의사 결정의 중요성은 향후 10년 간 엄청나게 증가할 것이며, CIO들에게 관련 분야에 대한 지속적인 관심을 강요할 것이다. 그러나 먼저 한 걸음 뒤로 물러나 보다 큰 그림을 봐야 한다. 의사 결정 보조의 6가지 단계를 설명한 가트너의 프레임워크(표 1 참조)는 인간의 개입이 없는 완벽한 자율형 시스템에 이르기까지 단계별 의사 결정 지원에 따른 위협요소와 보상을 범주화하고 평가할 수 있는 지침을 제시한다.

   
 

레벨 1에서 레벨 3까지는 사용되는 데이터의 정확성과 연관성, 알고리즘의 견고성 외에는 크게 문제될 것이 없다. 그러나 작업 실행에 대한 책임이 인간에서 머신으로 넘어가면, 상황은 달라진다. 레벨 4의 자동차 자동 주차와 같이 작업 내용이 분명하고 예기치 못한 상황의 발생 가능성이 극히 낮다면, 위협요소를 쉽게 관리할 수 있다.

레벨 4 이후부터는 CIO들이 기업 내에서 윤리적 개념을 비롯해 해당 기술사용에 따른 영향력을 확실하게 이해하고 적절히 대응해야 한다. 실제로 많은 프로세스와 의사 결정이 이미 레벨 5와 6 수준에서 이뤄진다. 자동차 에어백 설치나 금융 시장의 외환 및 주식 거래 등 많은 사례에서 기술 도입의 이유는 신속한 의사 결정이다. 이런 환경에서는 시스템의 결정을 인간이 검증하게 되면 시스템의 가치가 무력화되기 때문에, ‘정지 기능(disable function)’ 등 인간의 통제가 소용이 없다. 인간은 백만분의 2~3초 내 또는 그 보다 짧은 시간 내에 결정을 내리고 조치를 취하기에 너무 느리기 때문이다.

에어백의 잘못된 설치로 탑승자가 심각한 부상을 입거나, 주식거래 시스템이 잘못 작동돼 시장 불안을 가져오는 등 높은 리스크를 수반할 수 있겠지만, 레벨 6에 해당하는 의사 결정 자동화가 가져오는 가치는 실로 엄청나다. 동시에 비즈니스 관점에서는 낮은 레벨에서의 자동화는 리스크는 낮지만 가져다주는 가치는 똑같이 유용할 수 있다. 높은 레벨의 자동화가 반드시 더 좋다고 가정할 필요는 없다. CIO들은 비즈니스 문제를 평가하고 낮은 레벨의 자동화에 따른 이점과 높은 레벨의 자동화에 따른 위협요소 등을 비교해 봐야 한다.

마찬가지로 스마트 머신을 의사 결정 지원 프레임워크의 레벨 5와 레벨 6 수준에서 활용하는 것이 더 효율적인 사례도 많다. 예를 들어, 중요도가 매우 낮아 인간이 개입하지 않는 것을 선호할 경우나 매우 신속히 이뤄져야 하는 의사결정의 속도를 인간이 따라가지 못하는 경우 등이다. 그러나 이러한 사례들은 의도하지 않은 결과에 대해 인지하고 있는지와 상관없이 스마트 머신에 통제권을 부여하기로 한 인간의 의사 결정으로 간주된다.

권고 사항
CIO들은 다음과 같은 3가지 방식으로 스마트 머신의 의사 결정 능력을 지원해야 한다.

■ 동료들이 의사 결정 스마트 머신의 기술적 현실에 대해 더 분명히 이해할 수 있도록 교육하고, 법적 상황과 영향력을 구체화하기 위해 법률 자문과 적극 협력한다. 법률적 변경이 빠르게 이뤄지진 않겠지만, 한 발 앞서 선제적이고 신중한 태세를 취하는 것은 언제나 도움이 된다.

■ 6가지 단계 프레임워크를 이용해 요구 사항과 책임 간의 균형을 찾고 의사 결정 지원에 스마트 머신의 도입을 장려한다.

■ 인간의 감독 없이 독립적으로 작동하는 스마트 머신의 잠재력에 대한 부정적인 사회 통념과 오해를 일소시킨다.

물리적 및 가상 환경에서 센서가 폭발적으로 증가하고 있기 때문에 스마트 머신이 물리적 세상에 대한 데이터와 맥락 정보를 더 많이 확보하게 될 것이다. 이는 비즈니스 목표 지원에 있어 스마트 머신의 자율성을 강화할 것이며, CIO들은 관련된 리스크와 기회를 고민해야 할 것이다.

컴퓨팅의 초창기 시절 운영자들은 시스템에 직접 관련 데이터를 공급했으며, 이를 통해 물리적 세계에 대한 머신의 지식을 효과적으로 통제했다. 저가형 컴퓨팅 기기의 보급이 증가하고 연결, 센서 네트워크 및 사물 인터넷이 확대됨에 따라 컴퓨팅은 이제 시스템 및 센서 디바이스 설치 외에 사람의 직접적인 개입 없이 물리적 세계에 대한 데이터를 수집하고 있다.

가트너는 2020년까지 250만 대 이상의 디바이스가 인터넷에 연결될 것으로 추산하고 있으며, 센서의 수와 더불어 각 센서가 자동으로 수집한 데이터 량이 빠르게 증가함에 따라, 수집되는 백그라운드 데이터 량도 폭증할 것으로 보고 있다. 다양한 알고리즘들이 소셜 네트워크, 검색 엔진, 온라인 거래 등을 통해 인간의 활동, 위치, 관계, 구매 및 선호도에 대한 상세 정보를 수집하기 때문에 데이터 수집은 실제로 훨씬 깊게 이뤄지고 있는 셈이다.

‘가상 센서’에서 수집된 데이터는 이미 물리적 센서 기기에서 수집된 데이터보다 수백, 수천 배 많다. 정부 기관과 민간 기업이 해당 데이터에 고급 분석 기술을 적용하면 문제는 더욱 심각해진다. 실제 및 가상 센서에 의해 생성된 방대한 데이터에 접근할 수 있고, 패턴을 파악해 낼 고성능의 컴퓨팅 파워가 있다면 누락된 정보를 채워 넣는 것도 가능하다. 즉, 물리적인 센서가 설치됐을 때 생성됐었을 데이터와 맥락을 추론할 수 있는 것이다. 정확도와 해상도의 차이가 있겠지만, 거의 무한대의 ‘추론 센서(inferred sensor)’를 추가하는 것과 마찬가지의 효과를 가져올 수 있다.

스마트 머신은 현재 지속적이고 보편화되고 통제가 불가능한 방식으로 인간의 사적, 업무적인 활동 면면에 대한 정보를 수집하고 있으며, 개인 또는 기업은 이를 ‘중단’할 수 있는 선택권이 없다. 통제 불가의, 부적절한 데이터 수집으로 기업의 평판이 손상을 입을 가능성이 분명히 존재하며, 그 가능성이 상당하기 때문에 CIO들은 조직 내에서 해당 문제에 대한 인식을 높이기 위해 노력해야 한다.

권고 사항
■ CIO들은 물리적 및 가상 센서에 의한 데이터 수집 자동화 관련 문제에 대한 인식을 높이고 이에 따른 영향을 완벽하게 파악해, 적절한 통제, 프로세스 및 절차를 확립하도록 해야 한다.

인기기사 순위
(우)08503 서울특별시 금천구 가산디지털1로 181 (가산 W CENTER) 1713~1715호
TEL : 02-2039-6160  FAX : 02-2039-6163  사업자등록번호:106-86-40304
개인정보/청소년보호책임자:김선오  등록번호:서울 아 00418  등록일자:2007.08  발행인:김용석  편집인:김선오