[아이티데일리] 생성형 인공지능(Generative AI)은 이제 유행을 넘어 비즈니스의 중심으로 자리매김하고 있다. 오픈AI의 ‘챗GPT(ChatGPT)’가 촉발한 변화는 자율적 업무 수행이 가능한 ‘AI 에이전트’로까지 이어졌다. 이제 화두는 AI를 얼마나 잘 활용할 수 있는가다.

생성형 AI가 이룩한 혁신, 그 중심에는 데이터가 자리하고 있다. 수집, 저장, 통합, 관리 등 데이터 활용 전 과정이 뒷받침돼야 뛰어난 성능을 갖춘 AI 모델을 개발할 수 있다. AI 기술 발전과 함께 데이터의 중요성이 높아지고 있는 이유다.

이러한 변화 속에서 본지(컴퓨터월드/IT DAILY)는 지난달 21일 서울 서초구 양재동 엘타워에서 “AI를 이용한 데이터 활용 방안”을 주제로 ‘2025 데이터 컨퍼런스’를 개최했다. 행사는 AI로 고도화된 환경에 걸맞은 데이터 운영 전략과 생성형 AI와 관련한 주요 이슈에 대한 인사이트를 찾고, 관련 솔루션의 시연까지 경험해 볼 수 있는 자리로 마련됐다.

오후 세션은 트랙 1과 2로 나뉘어 진행됐다. 트랙 1 첫 세션에서는 엔코아 김기동 팀장이 ‘기업 데이터 활용의 극대화, AI 에이전트 연결로 여는 스마트 워크 전략’을 주제로 발표했다.

김 팀장은 챗GPT와 같은 생성형 AI 서비스는 범용 목적으로 데이터 트레이닝이 진행돼 특정 조직 및 업무 영역에 대한 이해도가 낮다고 지적했다. 기존 생성형 AI는 사용자가 질문 시 별도의 파이프라인 없이 거대언어모델(LLM)에 바로 전달돼 학습한 범위 내에서만 답변이 가능하다. 따라서 학습 범위 밖의 질의에 대해서는 엉뚱한 답변인 ‘환각(Hallucination)’ 현상이 발생한다.

이와 달리 검색 증강 생성(RAG)을 이용할 경우, 사용자 질의 시 AI 시스템은 파이프라인을 통해 데이터 자산을 먼저 검색하고, 검색된 내용과 질의를 함께 LLM에 전달한다. LLM이 업무 내용에 대한 학습을 하지 않았어도 검색된 내용을 토대로 유의미한 콘텐츠를 생성해 업무에 활용할 수 있다.

김 팀장은 스마트 워크 전략으로 RAG 기반 AI 플랫폼을 구축할 때 필요한 요소로 총 4가지를 강조했다. 이는 △실제 업무 내용을 이해하고 현업에서 활용될 수 있는 실용성 △자유롭게 파이프라인을 구성 및 수정하는 유연성 △특정 부서에 대한 의존 없이 파이프라인을 설계 및 운영하는 접근성 △파이프라인을 플랫폼 형태로 다양한 애플리케이션과 공유하는 확장성 등이다.

또한 김 팀장은 “실제 업무가 질문과 답변처럼 간단한 형식으로 끝나는 경우는 거의 없다”며, 복잡한 업무 흐름을 반영할 수 있는 자사의 에이전트 오케스트레이션 플랫폼인 ‘데이터웨어 AI 파워드 팩(DATAWARE AI Powered Pack)’을 소개했다. 해당 제품은 워크플로의 구축과 배포 과정을 시각화할 수 있으며, 개발자의 개입 없이도 손쉽게 AI 에이전트를 구축 및 배포하도록 지원한다. 더불어 챗봇을 통한 AI 에이전트 활용이 가능하며, 특정 벤더에 종속되지 않고 다양한 환경에서 AI 모델을 활용할 수 있다고 김기동 팀장은 설명했다.