[아이티데일리] 최근 많은 기업들이 인공지능(AI)을 활용해 비용을 절감하고 생산성을 높이는 데 전사적 역량을 집중하고 있다. 하지만 실질적인 적용 사례가 부족하고, 기대에 미치지 못하는 성과를 내는 등 한계를 마주하는 것이 현실이다.

이러한 난제에 해답을 제시한 기업이 있다. 바로 데이터·인공지능(AI) 전문기업 엔코아다. 엔코아는 그간 쌓아온 데이터 분야 기술력과 사업 노하우를 AI 에이전트 분야로 확장하며 새로운 AI 전략 ‘AI 레디 데이터(AI Ready Data)’를 제시했다. “데이터 거버넌스로 신뢰와 품질을, 온톨로지로 의미와 지능을 부여하며, AI 워크플로우로 구조와 순서를 정의해야 AIX(AI Transformation)를 성공적으로 완수할 수 있다”고 강조한 엔코아 김범 최고기술책임자(CTO)를 만나 AIX를 위한 혁신 전략을 들어본다.

데이터 거버넌스로 AI 에이전트 정확도 및 보안 확보

최근 기업들은 AI로 전환하는 과정에서 AI 모델의 정확도와 보안 정책 준수 등 문제로 고심하고 있다. 자체 보유 데이터, 변화하는 데이터, 보안이 중요한 핵심 데이터를 어떻게 활용할지 등 기본적인 문제부터, AI를 통해 기존 업무 프로세스를 어떻게 자동화해야 생산성을 향상할 수 있을지 등을 고민하는 것이다. 특히 거대언어모델(LLM) 기반 AI 모델을 활용해 업무 워크로드 프로세스를 자동화하는 방안을 적극적으로 모색하고 있지만, 이 과정에서 여러 난관에 부딪히고 있다.

이에 대해 엔코아 김범 CTO는 “LLM을 활용한 워크로드 프로세스 자동화 작업에는 기본적으로 AI 에이전트가 필요하며, 최근에는 ‘에이전트옵스(AgentOps)’라는 용어까지 등장하며 AI 에이전트 개발을 넘어 운영의 중요성도 강조된다”고 설명했다. 이어서 그는 “현재는 AI 에이전트를 시스템 통합(SI) 형태로 개발하고 여러 도구를 사용해 운영하지만, 업무 워크로드 프로세스를 AI 에이전트로 대체할 때는 ‘정확도 향상’과 ‘보안 정책 준수’를 반드시 고려해야 한다”고 강조했다.

김범 CTO는 AI 에이전트의 정확도와 보안 문제를 해결하기 위해 ‘데이터 거버넌스(Data Governance)’의 중요성을 역설했다. 김 CTO에 따르면, 기업 내부에 다양한 AI 에이전트가 개발되면서 AI 에이전트가 사용하는 데이터의 품질, 무단 데이터 접근, 불투명한 데이터 근거, 시점 및 출처에 따른 데이터 불일치 등의 문제가 발생하고 있다. 이러한 문제는 곧 AI 에이전트의 품질 저하로 이어진다. 실제로 대기업, 특히 금융사들이 AI 에이전트 도입에 고전하는 이유도 여기에 있다.

김범 CTO는 “최근 AIX, 특히 정확도와 보안성을 높이기 위해 검색증강생성(RAG) 도구를 접목하고 있지만, 이는 컨텍스트(Context, 맥락) 부재로 이어질 수 있다”고 지적했다. 그는 “AI 에이전트의 정확도와 보안을 높이기 위해서는 선행하는 컨텍스트에 대한 정보를 명확하게 파악하고 있어야 하며, 이는 AI 에이전트만으로는 해결할 수 없다”고 강조했다. “이를 완성할 수 있는 것이 바로 데이터 거버넌스다. 과거 데이터 거버넌스 시스템이 데이터 구조, 표준 사전, 품질 규칙, 모델 역행 재설계 등을 통해 데이터를 식별하고 이해할 수 있도록 만들었던 것과 같이, AI 에이전트의 정확도 향상과 보안 준수를 위해서도 데이터 거버넌스가 핵심적인 인프라 역할을 수행할 수 있다”고 설명했다.

“GDB로 AI 추론 능력 강화하고 워크플로우로 자연어 모호성 해결”

김범 CTO는 AI 에이전트의 근본적인 한계인 ‘추론(Reasoning)’ 능력을 강화하기 위한 방안으로 그래프DB(GraphDB, GDB)와의 결합도 제안했다. 김범 CTO에 따르면, 기업의 핵심 데이터는 여전히 관계형 데이터베이스(RDB)에 저장돼 있다. RDB는 정형 데이터 저장 및 정렬에 유용하지만, 관계 기반 AI 추론에는 약점을 보인다.

일례로 마케팅 부서의 매니저를 파악하기 위해서는 복잡한 SQL 쿼리와 여러 테이블 간의 병합이 필요하다. 또 모델 전문가들은 마케팅 부서의 매니저가 존재하는 테이블을 이해하고 관계를 파악할 수 있다. 하지만 AI 에이전트는 명시적인 관계를 제공하지 않으면 추론하기 어렵다.

이에 엔코아는 RDB에 담긴 정보를 GDB의 특징인 데이터 간 명시적인 관계로 표시함으로써 AI 에이전트의 추론 능력을 향상할 수 있다고 강조했다.

엔코아 김범 CTO는 “많은 기업은 AI 추론 능력을 강화하고자 벡터 DB와 RAG를 사용했다. 하지만 성능이 기대에 미치지 못했다. 가장 큰 이유는 데이터 거버넌스의 컨텍스트 정보 부족과 암묵적인 관계에서 답을 찾으려 했기 때문이다. 내부적으로 실험한 결과, 단순 RAG가 결합된 AI 에이전트에 비해 GDB와 연결된 AI 에이전트는 복잡한 질문을 할수록 성능 저하 폭이 좁았고, 오류율도 현저히 낮았으며, 정확한 답변을 제공했다. 우리는 이를 ‘그래프 RAG’ 기술로 명명하며, 날카로운 질문이나 추론을 위한 질문에서 단순 RAG로는 해답을 찾을 수 없는 한계를 극복할 수 있다”고 설명했다.

이어 김 CTO는 “이 과정에서 모든 데이터를 GDB와 연결되도록 구성하는 것이 아닌, 특정한 주제별로 AI 에이전트 주제에 맞는 그래프DB ‘서브셋(SUBSET)’을 만드는 것이 중요하다”면서 “모든 데이터가 연결되면 의미 없는 관계가 생기게 된다. 이는 노이즈 증가로 이어지고, 전환된 노드·에지 수가 늘어나 탐색 성능이 저하되는 문제가 발생한다”고 조언했다.

이 외에도 엔코아 김범 CTO는 AI 에이전트 구성 시 자연어 모호성도 고려해야 한다고 강조했다. 우선 김 CTO는 자연어 모호성 사례로 ‘지시 대명사 모호성’, ‘역할 표현의 다양성’, ‘컨택스트 부족’, ‘비교 조건 모호성’ 등을 꼽았다. 이를 해결하기 위해서는 AI 에이전트에 예상된 질문에 대한 리스트를 구성해 질문자의 의도를 분석하고 답변 경로를 설정한 라우팅(Routing)을 통해 답하도록 유도해야 한다.

김범 CTO는 “데이터 거버넌스 시스템을 구성하고 MCP를 연결해 컨택스트를 잘 줄 수 있는 환경을 마련했더라도, AI 에이전트는 자연어가 갖는 모호성을 완벽히 이해하기는 어렵다. 결국 AI 에이전트는 사용자가 요청한 것이 무엇인지 헷갈릴 수 있게 되고 제대로 답변하지 못하는 경우가 발생한다. 실제로 NL2SQL(자연어 to SQL)과 같이 자연어로 쿼리를 날릴 수 있는 기술들이 존재했는데 자연어 모호성으로 인해 제대로 구동하지 못했다. AI 에이전트 구축 시 자연어 모호성을 해결해야 성능을 보장할 수 있다”고 덧붙였다.

다음은 엔코아 김범 CTO와의 인터뷰를 일문일답으로 구성한 것이다.

“‘AI 레디 데이터’로 AIX 완벽 대응하라”

Q. 엔코아가 제안하는 AIX 구성을 상세히 소개해달라.

A. 엔코아는 AI 에이전트, MCP 서버, 데이터 거버넌스 시스템으로 구성된 방식을 제안하고 있다. 이렇게 구성할 경우 MCP 서버는 데이터 거버넌스가 관리하는 정형 데이터 및 관리 정보를 AI 에이전트에 제공하게 된다. 에이전트가 데이터의 위치, 접속 정보, 품질 수준, 보안 등급, 출처 등을 명확히 파악하고 사용할 수 있도록 지원한다.

또한 이 과정에서 데이터 모델링을 자동화할 수 있는 툴로 엔코아의 ‘DA# AI-파워드 팩(DA# AI-Powered Pack)’을, 데이터 거버넌스를 자동화할 수 있는 툴로 ‘데이터웨어 AI-파워드 팩(DATAWARE™ AI-Powerd Pack)’을 함께 제안하고 있다.

이를 통해 데이터 거버넌스 구축에 소요되던 시간과 비용을 획기적으로 줄일 수 있고 기존 정형 데이터 관리뿐만 아니라 비정형 데이터(파일 정보, 내용 요약/번역, 비즈니스 분류 등)까지 AI로 자동화해 데이터 거버넌스 시스템에 담더라도, 수개월 이상 걸리던 구축 일정을 수일에서 수주 내로 단축할 수 있다.

운영 방식 차원에서는 기업 내부의 보안 정책을 준수하기 위해 MCP 서버와 데이터 거버넌스, 엔터프라이즈 데이터를 내부망에서 운영하는 하이브리드 모델을 제시하고 있다.

또한 AI 에이전트의 추론을 강화하기 위해 온톨로지와 AI 기술의 결합을 제안하고 있다. 기존 RDB는 정형 데이터 저장에 강한 성능을 보이지만, 관계 기반 추론에는 약점을 보인다. 엔코아는 RDB 정보를 GDB 형태의 온톨로지로 변환해 데이터 간의 명시적인 관계를 표시함으로써 AI 에이전트의 추론 능력을 높이도록 제안하고 있다.

Q. 자연어 모호성에는 어떻게 대응할 수 있는가.

A. 자연어 모호성은 ‘지시 대명사 모호성’, ‘역할 표현의 다양성’, ‘컨텍스트 부족’, ‘비교 조건 모호성’ 등의 사례로 나타난다. 이를 해결하기 위해 엔코아는 AI 에이전트가 예상된 질문 리스트를 구성하고, 질문자의 의도를 분석한 뒤 라우팅(Routing)을 통해 정확한 답변 경로로 유도해야 한다는 점을 강조한다.

엔코아는 이를 위해 ‘DATAWARE™ AI Powered Pack이라는 솔루션도 제공하고 있다. AI 에이전트 워크플로우 플랫폼은 기업 내 AI 에이전트의 개발 생산성 및 보안을 강화하는 데 중점을 두고 있다. 이 플랫폼은 데이터 접속 권한, 인증 접속 정보, 보안 정책 미준수 등의 위협을 해결하고, 로우코드/재사용 가능한 에이전트 개발 툴을 제공한다.

특히 GDPR, HIPPA 등 각종 컴플라이언스에 대응할 수 있도록 데이터 분리, 입출력 기록, 데이터 마스킹 기능도 포함하고 있고, 기업 규제에 따라 온프레미스, 프라이빗 클라우드에서 구동되도록 구성했다. 연결성-확장성 면에서는 다양한 데이터 소스(ERP, CRM 등)와 쉽게 붙도록 구성했다. 수요가 많아져도 스케일 업-아웃이 되도록 설계했고, 멀티모달 등 데이터 타입도 다양하게 지원한다.

‘에이전트 빌더’를 통해 에이전트를 쉽게 생성, 수정, 평가, 배포, 운영, 모니터링할 수 있도록 지원하며, 복잡한 워크플로우도 최적화할 수 있다.

“‘AI 레디 데이터’ 전략에는 기업들의 고려사항 해결방안이 담겼다”

Q. AI 에이전트와 AI 워크플로우의 결합이 중요하다고 이해되는데, 어떠한 강점이 있는가.

A. AI 에이전트가 단독으로 쓰이면 도구와 API를 스스로 판단해 사용할 때 오류가 발생하거나, 중요한 프로세스에서 누가, 왜 그런 판단을 했는지 추적하기 어렵다. 반면 워크플로우는 복잡한 비즈니스 로직을 태스크 단위로 쪼개서 연결하며 고정된 경로를 따라 실행되므로 테스트, 감사, 보안 측면에서 유리하고, 반복 업무나 대량 데이터 처리에서 병렬 태스크로 속도도 빠르다.

이 두 기술을 결합할 경우에는 워크플로우가 전체 작업의 구조와 순서를 책임지고, 중간중간 사람처럼 판단이 필요할 경우 AI 에이전트를 혼합해 사용하는 방식으로, 신뢰성과 효율성을 동시에 확보할 수 있다.

Q. SI 형태로 AI 에이전트가 개발되면 보안에 문제가 있는가.

A. 많은 기업은 SI 형태로 AI 에이전트를 개발해 운영한다. 하지만 AI 에이전트는 다양한 포맷의 민감한 데이터를 다루며 데이터 접속 권한과 인증접속 정보, 보안정책 미준수 등 위협에 노출돼있다. 특히 DB 접속정보, API 키 등 하드코딩 될 위험도 존재한다. 기업 내 시스템 로직에 따라서는 다양한 AI 에이전트에 중복돼 있을 수 있다.

아울러 기업 내 데이터 분류/권한/접근 정책에 따르지 않고 개발자의 판단에 의존해 AI 에이전트가 개발된다. 만약 담당자가 교체되거나 AI 에이전트에 적용된 데이터 정책이 변경되면 대응하기 어려울 것이다.

최근 개인정보보호법에 따르면 DB에 누가 접근했는지 이력을 추적해 감사 기록을 보관해야 한다. 이 경우 민감정보 데이터를 담은 시스템에 AI 에이전트가 접속하게 되면, 기록은 없을 것이다. 과거 DB 접근제어는 누가 접속하든 전부 기록했다. 하지만 AI 에이전트는 시스템 안에서 구동되기에 기록되지 않는다.

Q. 엔코아가 제시하는 ‘AIX 전략’은 무엇이고, 지원 방안은.

A. 엔코아가 제시하는 AIX 전략은 ‘AI 레디 데이터’로 정의할 수 있다. AI 에이전트가 잘 작동하는 데이터 거버넌스와 온톨로지를 기반으로 하며, 이를 효과적으로 구축하는 방법을 포함한다. 요약하자면 데이터 거버넌스로 신뢰와 품질을 갖추도록 지원하고, 온톨로지로 의미와 지능을 부여하며, AI 워크플로우로 구조와 순서를 정의해 AI 전환을 성공적으로 도울 수 있다는 의미다. 정확도 향상, 보안 준수, 추론 강화를 위해 반드시 고려해야 하는 사항들 역시 담겨있다.

엔코아는 고객들이 AI 도입 시 직면하는 정확도, 보안, 컴플라이언스 대응 등 다양한 고민을 해결하고, 궁극적으로 기업의 AIX를 성공적으로 이끌 수 있도록 지원하고자 한다. 이를 위해 엔코아는 데이터 거버넌스 솔루션과 이를 자동화하는 DA# AI-파워드 팩, 데이터웨어 AI-파워드 팩 등 다양한 솔루션을 보유하고 있다

엔코아는 AI 레디 데이터 전략을 기반으로 여러 지원 방안을 제공하고 있다. 우선 AI 기반 자동화를 통해 데이터 거버넌스 구축에 소요되는 시간과 비용을 획기적으로 절감할 수 있도록 돕는다. 다음으로 MCP 서버와 데이터 거버넌스를 결합해 AI 에이전트가 정확하고 안전하게 데이터를 활용할 수 있도록 핵심 인프라를 제공한다.

세 번째로 온톨로지 및 그래프DB 기술을 활용해 AI 에이전트의 추론 능력을 강화하고, 복잡한 비즈니스 문제에 대한 정확한 해답을 찾도록 지원한다. 마지막으로 ‘AI 에이전트 워크플로우 플랫폼’을 통해 기업이 보안을 준수하며 쉽게 AI 에이전트를 개발하고 운영할 수 있도록 생산성 향상도 달성하도록 돕고 있다.

엔코아는 기업의 AI 전환 전략 수립과 업무 생산성 향상을 위한 구체적인 컨설팅 서비스도 제공하고 있다. 비즈니스 목표 수립부터 업무 프로세스 매핑, AI 전환 대상 업무 분석, 데이터 준비 및 품질관리, AI 에이전트 설계 및 개발, 시범운영 및 성능평가, 고객 교육 및 변화관리, 전사적 도입 및 모니터링까지 데이터 준비부터 모니터링까지 엔드투엔드를 지원하고 있다.