[아이티데일리] 데이타솔루션은 지난달 12일 서울 강남구 조선 팰리스 강남에서 ‘데이타솔루션 싱크 넥스트(Datasolution THINK NEXT)’를 개최했다. 이번 행사에서는 제조·금융·유통 등 다양한 산업의 C-레벨 및 IT 리더를 대상으로 ‘AI-퍼스트’ 전환을 실현할 구체적인 로드맵과 현장 사례가 소개됐다.

이날 행사에서 데이타솔루션은 기업이 인공지능(AI)을 실질적으로 활용할 수 있도록 돕고자 IBM 왓슨x.ai(watsonx.ai)를 통해 거대언어모델(LLM)과 맞춤형 AI 모델을 효과적으로 도입하는 방안을 소개했다. 또 AI 에이전트, SQL 쿼리, 이커머스(e-Commerce) 고객 지원 등 AI로 비즈니스 가치를 확보할 수 있는 실사례도 공유했다.

“이제 화두는 AI-비즈니스 간 결합”

행사는 데이타솔루션 배복태 대표의 인사말로 시작됐다. AI는 어느덧 자율적인 업무 수행이 가능한 ‘AI 에이전트’로 영역을 넓히고 있다. 하지만 빠른 기술 발전 속도와 달리 기업들은 실제 비즈니스와 AI 간 결합에 어려움을 겪고 있다. 배 대표는 기업에서 AI를 기존 비즈니스와 연결하기 위한 전략을 면밀히 준비해야 한다고 조언했다.

배 대표는 “AI 자동화를 통한 혁신이 점차 현실화하고 있지만 여전히 많은 기업이 도입을 주저하고 있다”며 “이제는 AI를 얼마나 신속하고 실용적으로 비즈니스에 연계할 수 있는지가 관건이며, 이를 위한 전략 수립이 중요한 시점”이라고 강조했다.

이어 배 대표는 “얼마나 쉽고 빠르게 AI를 비즈니스에 연결할 수 있는지가 기업 경쟁력을 좌우할 것”이라며 “데이타솔루션은 하드웨어, 클라우드, 애플리케이션 개발 등 여러 영역을 아우르는 경험과 기술력으로 고객의 AI 전환을 이끌어 가겠다”고 말했다.

“반복 학습 버리고 사고력 함양 초점 맞춰야”

고려대학교 허명회 명예교수는 ‘우리들의 학습 방법, 이래도 괜찮은가?’를 주제로 AI 시대에 걸맞은 학습에 대해 제언했다. 허 교수는 AI 기술 발전을 두고 많은 이들이 업무 프로세스 변화를 고민하는데, 학습에 대해서도 돌아봐야 할 때라고 지적했다.

오랜 기간 우리나라 교육은 시험과 성적 향상을 목표로 수많은 문제를 푸는 정형화된 구조에 골몰했다. AI가 점점 인간에 버금가는 지능을 갖춰감에 따라 사교육을 위시한 반복 학습은 한계를 드러내고 있다고 허 교수는 꼬집었다.

허 교수는 AI 시대에 필요한 학습 태도로 ‘액티브 러닝(Active Learning)’을 제안했다. 그는 “누군가의 지시에 따르는 수동적 자세에서 벗어나, 스스로 시행착오를 겪으며 주도적으로 지식을 탐구할 필요가 있다”며 “능동적 태도는 변화하는 환경에 유연히 적응하고 창의적으로 문제를 해결하는 역량을 갖추는 데 필요하다”고 설명했다.

허명회 교수는 AI 기술 중 ‘생각의 사슬(Chain of Thought)’에 대해 주목했다. AI에 비해 인간은 탐구를 확장하는 창의력에 강점이 있어, 문제를 단계로 나누고 하나씩 풀어나가며 사고력을 키워갈 필요가 있다는 주장이다. 생각의 사슬은 일관된 논리적 추론으로 문제를 체계적으로 해결해 답변 정확도를 높이는 기법이다.

허명회 교수는 “급변하는 시대에 반복적인 학습은 더 이상 효과를 거두기 어렵다”며 “한두 개 문제를 두고 깊이 생각하며 추상화해 이해할 줄 아는 지적 능력을 함양했는지가 더욱 중요해질 것”이라고 강조했다.

“세 번의 AI 붐과 AI 학습 방법의 진화”

데이타솔루션 빅데이터러닝센터 정성원 센터장은 ‘세 번의 AI 붐과 AI 학습 방법의 진화’를 주제로 발표했다. 초기 AI는 논리와 규칙을 기반으로 인간 사고를 모방하는 시스템이 주류를 이뤘다. 대표 사례로 1966년 메사추세츠 공과대학(MIT) 조셉 와이젠바움(Joseph Weisenbaum) 교수가 개발한 세계 최초의 챗봇 ‘엘리자(ELIZA)’를 들 수 있다.

엘리자는 특정 조건문을 규칙으로 설정해 사람과 대화하는 듯 꾸며낸 장치다. 가령 사람이 특정 내용을 표현하면 그에 적합한 답변이 미리 만들어져 있었다. 1980년대에 이르러 연구자들은 이 같은 규칙 기반 패턴을 컴퓨터로 이관했다. 하지만 이때까지도 더 많은 내용을 담고 있을 뿐 특정 조건에 근거해 움직이는 형태는 그대로였다.

빅데이터는 AI 기술의 판도를 바꿨다. 더 이상 AI는 인간이 부여한 규칙에 전적으로 의존하지 않았다. 정성원 센터장은 “방대한 데이터를 학습하고 이를 바탕으로 인간이 만든 것보다 더 복잡한 규칙을 세우는 수준까지 발전했다”며 “머신러닝, 딥러닝을 거쳐 벡터 기반 모델을 토대로 만들어진 결과물이 생성형 AI”라고 설명했다.

생성형 AI는 마치 사람처럼 글을 쓰고 그림을 그릴 수 있는 수준에 이르렀다. 이런 발전으로 사람들이 품는 AI에 대한 기대는 날이 갈수록 커지고 있다. 하지만 AI와 비즈니스 간 결합은 쉽지 않다. 비용 대비 투자수익률(ROI)이 충분하지 않아 기업들은 AI 도입을 망설였다.

정성원 센터장은 “흔히들 AI 하나만으로 모든 문제를 해결할 수 있으리란 환상에 빠진다”며 “작은 문제를 해결하는 AI를 여럿 만들고 이를 조합하는 방향이 현실적인 접근법”이라고 조언했다.

“AI 에이전트가 주도하는 새로운 패러다임”

IBM 차재길 실장은 ‘AI와 자동화가 만드는 업무 방식의 뉴 패러다임’를 주제로 발표했다. 생성형 AI는 시장이 나온 지 3년이 채 되지 않았음에도 업무 환경을 빠르게 바꾸고 있다. ‘챗GPT(ChatGPT)’를 위시한 대화형 AI 서비스가 파란을 일으켰다.

차 실장은 “과거에는 사람이 주도하고 AI가 보조하는 구조였으나 앞으로는 AI가 업무를 주도한다”며 “특히 생성형 AI와 AI 에이전트가 조직 구조, 업무 프로세스, 인재 채용 등 비즈니스에 전방위적으로 변화를 일으킬 것”이라고 설명했다.

차 실장은 AI 기술 발전 단계를 △LLM과 소통하는 방식 △AI가 학습하지 못한 정보를 활용하는 ‘검색 증강 생성(RAG)’ 그리고 최근 주목받는 ‘에이전틱 AI(Agentic AI)’로 구분했다. 특히 에이전틱 AI는 자동화와 결합해 기존 업무 상당 부분을 처리하며 비즈니스 가치를 거둘 것으로 예상했다.

IBM은 사내에 AI 에이전트를 도입해 HR, 영업, 고객 서비스 등 반복적인 업무 환경에서 효과를 거두고 있다. 회사에서는 에스크(ASK) HR, 에스크 세일즈(Sales) 등 ‘에스크 시리즈’란 이름으로 AI 도구를 내부적으로 운영 중이다. 직원은 이들 에이전트를 통합 관리하는 ‘에스크 IBM’을 이용해 업무를 처리할 수 있다.

차 실장은 AI 시대의 성공적 안착을 위해 ‘신뢰’를 기반으로 한 운영 모델 설계를 강조했다. 특히 △데이터 관리 투자 △AI 거버넌스 강화 △AI 에이전트 역할 및 권한 명확화 등 세 가지 준비가 필요하다고 역설했다.

차 실장은 “AI와 사람이 각자 역할을 분담하고 협력함으로써 시너지를 창출하는 새로운 운영 모델을 구축해야 한다. 이를 통해 지속 가능하고 확장 가능한 가치를 만들 수 있다”고 제언했다.

“실사례로 살펴보는 AI 에이전트 구현 전략”

이후 세션은 AI 에이전트를 실제 비즈니스에 적용한 사례를 중심으로 이어졌다. 먼저 IBM 김유미 실장이 ‘AI 에이전트, 기업 생산성 향상을 위한 AI의 다음 물결’이란 주제로 발표했다. 김 실장은 AI 에이전트를 업무에 적용하기 위해선 조직에 필요한 형태로 빠르게 개발 및 배포할 수 있는 플랫폼이 필요하다고 강조했다.

이에 IBM은 ‘왓슨x 오케스트레이트(watsonx Orchestrate)’를 선보인다. 왓슨x 오케스트레이트는 모든 에이전트를 통합 관리하는 플랫폼으로, 사전 구축된 에이전트로 신속한 워크플로 배포를 제공한다. 현업이나 개발팀에서 추가로 필요로 하는 기능에 대해서도 플랫폼 내에서 구축할 수 있도록 지원한다.

데이타솔루션 허혁 프로는 IBM 왓슨x.ai로 SQL 쿼리를 자동화하는 방안을 소개했다. 생성형 AI 등장 후 모델 학습에 쓰이는 비정형 데이터가 주목받았다. 하지만 여전히 실제 비즈니스에 주로 활용되는 쪽은 정형 데이터다. 허 프로는 이러한 환경을 고려해 정형 데이터를 바탕으로 삼는 AI 에이전트를 소개했다.

허 프로는 “랭체인(LangChain) 같은 최신 프레임워크로 자연어 질의를 SQL 쿼리로 변환하며, 이를 다시 사용자가 쉽게 이해할 수 있는 자연어 결과로 만드는 SQL 체인(Chain) 에이전트를 만들 수 있다”고 설명했다. 이와 함께 월별 집계, 실적 비교 등 다양한 비즈니스 질문에 답변이 가능하다는 것을 시연을 통해 보여줬다.

마지막 발표는 데이타솔루션 이진백 상무가 진행했다. 이 상무는 이커머스를 위한 쇼핑 리뷰 RAG 챗봇을 구현하는 사례를 소개했다. 과거 이커머스에선 자주 묻는 질문(FAQ)과 상품 기본 정보 제공을 위해 챗봇을 사용했다. 하지만 최근 들어 실시간 트렌드를 중심으로 감성·맥락 기반 리뷰 요약에 대한 수요가 증가하고 있다.

정형화된 답변을 벗어나는 방법으로 이진백 상무는 왓슨x.ai와 RAG가 결합한 챗봇을 제시했다. 소셜 미디어(SNS) 후기, 사용자 정보 등 외부 데이터를 RAG로 끌어와, 소비자 경험 기반의 컨텍스트를 반영하고 실시간 트렌드 민감도를 높인다는 전략이다. 이 상무는 실제 데모를 통해 SNS 및 쇼핑몰 데이터를 활용해 답변 정확도를 높이는 모습도 선보였다.

이진백 상무는 “AI와 비즈니스 간 결합은 이제 거스를 수 없다. 기업이 경쟁력을 갖추기 위해선 작은 업무에도 AI를 적용해야 한다”며 “데이타솔루션은 풍부한 현장 경험과 IBM 왓슨x 플랫폼을 바탕으로, 기업이 AI 도입에 대한 고민을 해결할 수 있도록 적극 지원하겠다”고 밝혔다.