[아이티데일리] 생성형 인공지능(Generative AI)은 이제 유행을 넘어 비즈니스의 중심으로 자리매김하고 있다. 오픈AI의 ‘챗GPT(ChatGPT)’가 촉발한 변화는 자율적 업무 수행이 가능한 ‘AI 에이전트’로까지 이어졌다. 이제 화두는 AI를 얼마나 잘 활용할 수 있는가다.

생성형 AI가 이룩한 혁신, 그 중심에는 데이터가 자리하고 있다. 수집, 저장, 통합, 관리 등 데이터 활용 전 과정이 뒷받침돼야 뛰어난 성능을 갖춘 AI 모델을 개발할 수 있다. AI 기술 발전과 함께 데이터의 중요성이 높아지고 있는 이유다.

이러한 변화 속에서 본지(컴퓨터월드/IT DAILY)는 지난달 21일 서울 서초구 양재동 엘타워에서 “AI를 이용한 데이터 활용 방안”을 주제로 ‘2025 데이터 컨퍼런스’를 개최했다. 행사는 AI로 고도화된 환경에 걸맞은 데이터 운영 전략과 생성형 AI와 관련한 주요 이슈에 대한 인사이트를 찾고, 관련 솔루션의 시연까지 경험해 볼 수 있는 자리로 마련됐다.

세 번째 메인 세션 발표를 위해 연단에 오른 지티원 어호경 전무는 ‘AI 거버넌스를 위한 통합 컨트롤 타워 – AI 워크벤치’를 주제로 발표했다. AI가 발전함에 따라 리스크 관리가 중요 문제로 떠오르고 있다. 산출물에 대한 윤리적 문제를 해소하고, 데이터 보안 및 개인정보 침해에 대응하기 위해 정부, 기관 차원에서 기준을 제시하고 있다. 최근 유럽연합(EU)에서는 AI법(AI Act)를 만들었으며 우리나라에서도 AI기본법을 제정한 바 있다.

새로운 AI 관련 법과 규제는 관리 감독 인력 확보, 조치 사항 문서화 등을 규정하고 있다. 이에 따라 기업에서도 AI를 책임감 있게 사용하기 위한 거버넌스의 필요성이 주목받고 있다. 하지만 거버넌스 수립에 필요한 표준화된 프로세스와 산출물 관리 체계가 부재한 실정이다.

지티원은 AI 거버넌스 체계 수립 지원을 진단부터 실제 적용까지 올인원으로 제공하고 있다. 우선 금융위원회, 과학기술정보통신부 등 정부 부처, 금융 당국에서 제시한 가이드라인을 분석해 총 4개 영역, 45개 항목으로 사전 진단 체크리스트를 만들었다. 기업은 이를 토대로 4~6주간 현재 거버넌스 운영 수준을 점검할 수 있다.

거버넌스 수립 과정에 참고할 만한 레퍼런스 모델도 지원한다. 레퍼런스 모델은 표준 프로세스, 산출물 구성 항목, 책임감 있는 AI(RAI) 지표 등으로 구성된다. 기업에서는 레퍼런스 모델과 현 시스템을 비교하며 개발 단계에서 검증 사항을 확인하고 절차에 따른 과정 전반을 한눈에 파악할 수 있다.

지티원은 AI 거버넌스를 기업 시스템에 빠르게 적용할 수 있도록 ‘AI 워크벤치’를 만들었다. 이 솔루션은 컴플라이언스 준수, 프로세스 표준화를 위한 진단 항목을 ‘지식 통합팩’ 형태로 제공한다. 또 전체 워크플로와 통합돼 업무 수행 과정에서 전체 진행 상황이 거버넌스와 일치하는지 파악할 수 있다. 지티원에서는 규제 변화에 따른 대응이 가능토록 프로세스, 체크리스트도 지속적으로 업데이트하고 있다.

지티원 어호경 전무는 “여러 가이드라인, 규제를 파악하고 이에 맞는 체계를 만드는 데 많은 시간이 소요된다”며 “지티원은 AI 워크벤치를 중심으로 시스템 진단, 표준 체계 수립, 산출물 관리 등 거버넌스 운영에 필요한 모든 요소를 올인원(All-in-One) 서비스로 제공한다”고 강조했다.