산업교육연구소, 온디바이스 AI 기술개발 적용·신규 비즈니스 사업화 방안 세미나 진행

[아이티데일리] 차세대 기술 및 신산업으로 온디바이스 AI가 주목받고 있다. 온디바이스 AI는 사용자의 기기(디바이스)에서 AI연산이 바로 수행되는 기술이다. 클라우드 컴퓨팅에 의존하는 생성형 AI와는 다른 방식으로 해외 굵직한 빅 테크들이 모두 해당 분야에 뛰어들고 있는 분야다.

우리나라 정부도 기술경쟁력 강화를 위해 정책 및 R&D를 지원한다고 발표한 가운데 산업교육연구소가 16일 “온디바이스 AI 최근 기술개발과 적용 및 신 비즈니스 사업화 방안 세미나”를 온·오프라인 동시 진행했다.

세미나에서는 학계를 비롯 증권사 및 AI 기업 등 여러 관계자들이 연사로 참여해 발표를 진행했다.

먼저 삼성증권 이종욱 연구위원은 ‘온디바이스 AI 기반 최신 기술개발 동향 및 사업화를 위한 도전과제’에 대해 설명했다. 이 위원은 “앞으로 AI는 이제 PC를 사용하는 유저들의 경우 사용이 불가피할 것이다”는 의견을 내놓았다.

이런 가운데 오는 2026년 기준 PC의 60%, 모바일의 30%가 온디바이스 AI를 탑재할 것으로 전망했다. 그는 삼성증권 조사 자료를 인용, 2026년 스마트폰 3.9억 대, PC 1.8억 대가 언어모델을 위한 NPU 탑재 증가가 나타날 것으로 추정했다.

또 NPU의 탑재 증가로 인해 프로세서의 판가는 30~40달러(한화 4~5만 원)정도가 증가할 것으로 내다봤다. 이에 따라 해당연도 기준 시스템 반도체 시장에 25.8조 원의 추가적인 부가가치가 발생할 것이라고 설명했다.

슈퍼브이에이아이 윤석민 박사는 ‘산업 문제 해결을 위한 온디바이스 AI 전략’라는 주제로 발표를 진행했다. 그는 ‘산업 지능화, 비전(Vision) / AI 성공 방정식 4요소’를 제시했다. △현장 중심의 AX 추진을 비롯 △AI/ML에 대한 설계·분석 컨설팅 △빠른 실험+반복을 통한 개선 △프로젝트 이후의 유지/보수 고도화를 강조했다.

이와 더불어 윤 박사는 “AI/ML을 도입하고자 하는 현장의 ‘문제’를 데이터화 하는 과정에 대한 전문성이 필요하다”며 “해결하고자 하는 문제는 무엇인지, 어떤 센서가 문제를 정확히 표현할 수 있는지, 피사체가 표현되는 패턴을 전부 취득할 수 있는지, 취득하는 환경과 AI를 적용하려는 환경이 동일한지에 대해 고려해봐야 한다”고 설명했다.

한성대학교 김명선 AI응용학과 교수는 ‘온디바이스 AI 실현을 위한 임베디드 시스템 기술’이라는 주제로 발표, 라이트웨이트(Lightweight)를 언급하면서 기존 모델 대비 모델의 정확도 손실을 최소화 하는 방안, △가지치기 △양자화 △경량 네트워크 설계 등 다양한 기술에 대해 설명했다.

이외에도 이날 세미나에서는 △온디바이스 AI 기반 LLM 활용방안(에이아이 팩토리 김태영 대표) △모빌리티 지능화를 위한 온디바이스 AI 기술의 이해와 활용전략(서울대학교 홍성수 교수) △온디바이스 AI 반도체 기술 개발 동향과 실증사례 및 미래 전망(한국전자기술연구원 성낙명 팀장) △매터 표준과 온디바이스 AI 기반 지능형 홈 솔루션 개발 사례 및 사업화 전략(와츠매터 김학용 대표) △On-Device Model Deployment and Future(다겸 김한비 팀장) 등 다양한 발표가 마련됐다.

한편, 산업교육연구소 박귀배 상무는 “이번 세미나를 통해 온디바이스 AI 트렌드에 발 빠른 대응과 신기술을 습득해 차별화된 사업 구상과 더불어 미래 성장 전략을 위한 신비즈니스 모델 발굴에 도움이 되길 바란다”고 전했다.