[아이티데일리] “생성형 인공지능(AI)은 자신감 넘치는 인턴과 같다. 묻는 말이 뭐든 곧잘 답하나 사실과 맞지 않은 이야기가 여럿이다. 모든 업무를 두루 잘하지도 못한다. 그렇지만 특정한 일에 대해서는 믿을 만한 결과를 만들어낼 수 있다. 성공적인 AI 전환을 위해선 AI가 할 수 있는 일이 무엇인지를 찾고 그것을 지시해야 한다.”

파수 조규곤 대표는 22일 서울 영등포구 여의도 페어몬트 앰배서더 호텔에서 열린 ‘FDI(Fasoo Digital Intelligence) 2025 심포지엄’에서 AI 도입 방안에 대해 이 같이 밝혔다.

FDI 2025 심포지엄은 파수에서 개최하는 연례 고객 초청 행사다. 올해는 ‘생성형 AI 혁명: AI는 기업에 가져올 변화(The Gen AI Revolution: How AI is Reshaping Enterprise)’를 주제로 기업용 AI 구축과 활용, 데이터 관리, 개인정보 보호 등 최근 주요 IT/보안 이슈에 대한 전략과 실행 방안을 다뤘다.

키노트 발표에 나선 조규곤 대표는 AI 기술 동향과 파수의 사업 전략을 소개했다. 생성형 AI는 빠른 속도로 발전했다. 환각 현상으로 인한 우려도 잠시, 많은 이들은 일상에서 AI를 사용하며 그 효과를 경험하고 있다. 하지만 직원 개개인이 아닌 회사 차원에서는 AI 도입에 어려움을 겪고 있다. 문제는 비용과 보안이다.

조규곤 대표는 “기업이 거대언어모델(LLM)을 사내에 구현하기 위해선 그래픽처리장치(GPU)를 확보해야 한다. 여기에 드는 많은 돈이 기업에 부담으로 다가온다. 보안도 문제다. 사용 과정에서 데이터가 유출될 우려가 있고, AI가 만든 결과물이 저작권이나 규제를 위반하지 않는지 검증해야 할 필요성도 존재한다”고 설명했다.

이에 파수는 기업형 프라이빗 LLM ‘엘름(Ellm)’으로 대안으로 제시한다. 경량 LLM(sLLM)으로 시스템 구축에 드는 비용을 줄이면서도 특정 업무에 강점을 유지하도록 구현했다. LLM에 들어가는 정보는 ‘데이터 유출 방지(DLP)’로 보호하고, 생성된 내용은 ‘데이터 위생 관리(DHC)’ 기술로 관리함으로써 안전한 AI 거버넌스 확립도 돕는다.

엘름은 마이크로소프트 ‘젬마(Gemma)’를 비롯한 오픈소스 모델을 파수에서 최적화해 내놓은 솔루션이다. 파수는 실제 업무에서 효과를 체감할 수 있도록 글쓰기 능력과 표·차트 이해도를 향상하는 데 집중했다. 높은 성능을 요구하는 업무를 위해 모델 최적화와 GPU 캐싱(Cashing)으로 ‘연구자 모드’도 구현했다.

특히 검색 증강 생성(RAG)을 바탕으로 한 AI 채팅 기능으로 문서를 요약하거나 상세한 내용을 살펴볼 수 있도록 지원한다. 전문적인 자료도 참고할 수 있도록 외부 검색과도 연결했다.

보고서 작성에 특화된 기능인 ‘스크라이브(Scribe)’에서는 문서 내 목차, 섹션에 대한 세세한 편집이 가능하며 손쉬운 사용을 위한 프롬프트 예시도 제안한다. 이 밖에 RAG에 대해 충실도, 답변 상관도, 형식 정확도 등을 검증할 수 있는 벤치마크도 엘름에서 제공된다.

조규곤 대표는 “우리나라 기업들은 AI를 도입할 시 하드웨어를 갖추는 데 집중한다. 하지만 경량 모델이 발전함에 따라 인프라가 차지하는 비중은 점차 줄어들 것”이라며 “이젠 데이터, 거버넌스, 보안에 초점을 맞출 때다. 엘름은 기업이 느낄 비용 부담은 낮추고 유용한 기능을 안전히 쓸 수 있도록 뒷받침한다”고 말했다.