[아이티데일리] 씽크포비엘 박지환 대표는 ‘챗GPT(ChatGPT)’가 기존 규칙에서 벗어나 교란을 일으키는 이른바 ‘탈옥’ 문제를 일으킨 것과 관련, “인공지능 신뢰성 검증(AI 학습용 데이터 검증)이 해결책으로 중요하게 다뤄져야 한다”고 강조했다.

10일 오전 서울 코엑스에서 ‘미래 산업계 AI와 디지털 트윈’을 주제로 개최된 ‘2023 산업지능화 컨퍼런스’ 기조강연에서 박지환 대표는 챗GPT에 대한 사회적 우려를 언급하고, 인간에게 유익한 방향으로 챗GPT를 통제하기 위해서는 관련 규제 마련이나 기술적 방법 도출이 시급하다고 지적했다.

박 대표는 “효율을 중시하는 과정에서 자칫 인간이 인공지능(AI)에 사실상 모든 판단 주체를 넘기는 맹신에 가까운 태도를 보이면 걷잡을 수 없는 문제에 직면할 수 있다”고 경고했다. 강연에서는 실제 AI 활용 기술이 인간에게 부정적 결과를 초래한 몇 가지 사례가 소개됐다. 챗GPT 또한 앞으로 얼마든지 문제를 일으킬 수 있는 상황. 박 대표는 챗GPT가 최근 ‘탈옥’을 시도해 폭력적‧불법적 내용을 다루면서 업계 일각에서 “적절한 규제가 필요하다”는 공감대가 형성됐다고 설명했다.

박 대표는 “AI 스스로 의지를 지녔거나, 개발자가 악의적으로 만들었기 때문에 이러한 문제가 발생한 것은 아니다”라고 단언했다. 대신 “AI가 다양한 인간‧사회의 데이터를 학습하기에, 편향 문제에 자유로울 수 없는 점이 근본 이유”라고 진단했다. 그러면서 “AI의 편향과 위험성을 없애고 사용자 신뢰를 확보하는 노력을 늦춰서는 안 된다”고 덧붙였다.

강연에서는 업계뿐만 아니라 정부가 AI 신뢰성 확보를 위해 ‘AI 데이터 평가 기술 표준화’에 관심을 둬야 한다는 구체적 해결 방안도 제시됐다. 관련해 한국정보통신기술협회(TTA)가 이 분야 기술 표준을 담당하고 있는데, 씽크포비엘의 관련 기술기법 5건이 2021년과 2022년에 TTA 단체표준으로 채택된 바 있다. 씽크포비엘은 이를 토대로 막대한 양의 공공데이터가 지닌 가치를 판단하고 개선점을 찾는 평가를 제안하고 있다.

박 대표는 “학습데이터를 기술적 방법으로 통제하지 않은 채 AI에 공정한 판단을 요구하는 것은 길거리에 자유롭게 방치된 아이가 아무 탈 없이 인격자로 자라나길 기대하는 것과 다를 바 없다”면서 “신기술이 제공하는 문명을 우리가 온전하게 누리기 위해서는 신기술에 대한 맹신과 불신을 구별해야 하고, 이를 통해 인간 보편의 존엄과 가치를 지킬 수 있는 검증 기술, 즉 ‘AI 신뢰성 검증’과 ‘데이터 편향 측정’ 같은 기술이 병행‧발전돼야 할 것”이라고 말했다.

한편, 산업지능화 컨퍼런스는 한국산업지능화협회(KOIIA) 주최로 9일과 10일 양일간 코엑스에서 ‘2023 스마트공장‧자동화산업전’과 함께 열렸다. 컨퍼런스에서는 디지털 전환(DX) 관련 국내외 대표 사례를 소개하는 기조 세션을 비롯해 △산업 AI △제조 지능화 △제품 디지털 트윈 등의 세션에서 산·학·연 전문가 강연이 이어졌다.