AI 기본법 개정안, 누적 연산량·워터마크 기준 논란에도 ‘고수’

[아이티데일리] 과학기술정보통신부(이하 과기부)가 지난 12일 AI 기본법 시행령의 개정안을 공개했다. 과기부는 이번 개정안을 발표하며 규제보다 진흥에 초점을 뒀다고 밝혔다, 실제 업계 관계자들과 전문가들의 목소리가 반영돼 일부 조항이 개정됐지만 우려에도 불구하고 기존 형태를 유지하고 있는 부분들이 있어 이목을 끌고 있다.

누적 연산량 실효성 의문에도 ‘10의 26승 부동소수점’ 기준 마련

이번 개정안은 모델 학습에 활용된 누적 연산량이 ‘10의 26승 부동소수점’을 넘을 경우 안정성 확보 의무를 부여하고 있다. 앞서 이러한 기준이 혼란을 가져올 수 있다는 우려에도 불구하고 구체화된 것이다.

실제 미국 정보기술혁신재단(ITIF)은 누적 연산량이 위험을 예측하는 신뢰할 수 있는 지표가 아니므로 기준에서 제외되어야 한다고 주장한 바 있다. 최근에는 추론이나 모델 결합 등 다양한 방식으로 시스템을 구성하는 경우가 잦아 단순히 학습량으로 기준을 정하는 것은 부적합하다는 지적이다. 누적 연산량의 공개 의무를 기업에게 어떻게 부여할 수 있는가도 과제다.

다만 ‘기술 발전 수준, 위험도를 추가 고려하도록 설정’한다는 규제 유연성을 일부 남겼다는 점은 긍정적으로 평가된다.
 

워터마크로 투명성 확보 의무 부여

앞서 투명성 확보 의무 조항에 대해서는 기술적인 취약점이 따를 수 있다는 우려가 제기됐다. 워터마크와 같은 특정 솔루션이나 기술을 통해 안전을 확보하고자는 행동은 급변하는 AI 업계에 적합하지 않다는 설명이다. 그러나 과기부는 이번 개정안을 통해 워터마크 의무화로 가닥을 잡았다.

이번 개정안은 AI 서비스 기업들이 AI 생성물을 제공하는 과정에서 약관, 설명서, UI 등을 활용해 고지할 것을 의무화했다. 또 가시적인 방법뿐만 아니라 기계가 판독할 수 있는 형태의 워터마크도 허용한다는 내용을 담았다. 딥페이크의 경우 AI 생성물임을 고지·표시하되, 연령·신체적 조건을 고려해야 한다.

한편 개정안은 AI 생성물이 명백한 경우나 내부 업무용으로만 이용하는 경우는 예외를 적용한다. 과기부는 향후 기술발전 등을 고려해 구체적인 근거 마련에 나선다는 방침이다.
 

사실조사 유예는 미정

이번 개정안에는 사실조사와 관련해 이미 충분한 증거가 있거나 부당한 목적의 신고·민원에 대해서는 사실조사를 하지 않을 수 있도록 조항을 개선했다. 하지만 업계 관계자들은 이러한 위반 여부에 대한 사실조사가 유예돼야 할 필요가 있다고 주장한다. 위반 사실조사를 받게 되면 비즈니스 계약상 불리한 위치에 놓일 수 있기 때문이다.

이에 과기부는 사실조사를 1년 유예하는 방안을 검토하고 있다. 과기부가 이번 개정안을 발표하며 규제보다 진흥에 초점을 맞춘다고 발표한 만큼 기업들에게 부담이 되는 요소들을 줄여가겠다는 의지다. 실제 과태료 부과는 1년 유예될 예정이다.