[아이티데일리] AI 기본법이 국회 본회의를 통과했다. 제22대 국회에서 발의된 19개 법률안을 병합한 제정안은 AI 위험성을 규율하는 내용과 산업 활성화를 위한 지원책을 아우르고 있다. 본격적 논의는 이제부터 시작이다. 일각에서는 고영향 AI 등 몇몇 규정이 모호하다고 지적하고 있으며, 다른 한편에서는 충분한 예산 마련 여부에 대해 우려를 표하고 있다. 과학기술정보통신부는 이에 대한 하위 법령과 가이드라인을 만들어 AI 기본법을 보완한다는 계획이다.

4년 만에 국회 본회의 통과한 ‘AI 기본법’

국회 과학기술정보방송통신위원회(이하 과방위)는 지난 11월 26일 전체 회의를 열고 AI 기본법으로 발의된 법안 19개를 병합한 위원회 대안을 의결했다. 이후 12월 17일 법제사법위원회 체계자구 심사를 거친 AI 기본법은 12월 26일 국회 본회의에서 재석의원 264인 중 찬성 260인, 반대 1인, 기권 3인으로 가결됐다. 이에 따라 한국은 유럽연합(EU)에 이어 두 번째로 AI 관련 법안을 제정한 국가가 됐다.

AI 기본법은 국무회의 의결 및 공포를 거친 후 1년의 경과 기간을 둔 뒤 2026년 1월부터 시행될 예정이다. 정부는 AI 기본법이 신속히 시장에 안착할 수 있도록 하위 법령, 가이드라인 마련 등 후속 조치를 내년 상반기까지 추진할 계획이다.

AI 기본법은 제21대 국회에서부터 논의된 사안이다. 지난 2020년 이상민 의원(더불어민주당)의 ‘인공지능 연구개발 및 산업 진흥, 윤리적 책임 등에 관한 법률안’을 시작으로 제21대 국회에서 총 12개의 법률안이 발의됐다. 2023년 초 7개 안을 병합한 대안이 마련되며 법안 제정이 속도를 받는 듯했으나, 이후 별다른 진전을 보이지 못한 채 국회 문턱을 넘지 못했다.

제22대 국회가 문을 연 지 하루만인 올해 5월 31일 안철수 의원(국민의힘)이 ‘인공지능 산업 육성 및 신뢰 확보에 관한 법률안’을 발의했다. 그 후로 11월 말까지 6개월 사이 AI 기본법으로 이름으로 의안 20여 개가 마련됐다. AI 기본법에 대한 정계의 많은 관심을 확인할 수 있는 대목이다.

여야를 막론하고 AI 기본법 연내 제정에 힘을 쏟았다. 예산안 심사 기간으로 법안 제정이 다소 지연되는 듯 보였으나 소관위 심사, 법사위 체계자구 심사를 빠르게 거쳐 2025년을 닷새 앞둔 12월 26일 국회 본회의를 통과하게 됐다. 이로써 4년여간 이어진 AI 기본법 논의는 일단락됐다.

위험 규제 및 산업 진흥 아우르는 내용 담겨

AI 기본법 제정안의 가장 큰 특징은 ‘고영향’ AI다. 고영향 AI는 ‘사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템’으로 규정된다. 이전까지의 19개 발의안 대부분은 이를 ‘고위험’ AI를 정의하고, 이에 대한 규율 방안을 담았다. 그중 몇몇은 그보다 강한 ‘금지된’ AI를 규정하고 처벌 조항까지 마련했다.

이해민 의원(조국혁신당)은 지난 11월 21일 과방위 회의에서 “그간 리스크(risk)를 직역한 ‘위험’으로 표현해 왔다. 하지만 EU, 미국 등에서 하이 리스크(high risk)보다는 임팩트(impact)나 이펙트(effect)를 중심으로 논의가 발전되고 있다”며 “AI로 영향을 받는 더 넓은 범위를 포괄하기 위해 고위험을 고영향으로 바꿀 필요가 있다”고 제안했다. 이를 두고 여러 의원 간 논의가 이뤄진 후 최종적으로 고영향이라는 표현이 AI 기본법에 실리게 됐다.

아울러 고영향 AI 또는 생성형 AI를 이용한 제품·서비스를 제공하는 사업자는 해당 사실을 이용자에게 사전에 알려야 하는 규정이 실렸다. 또 생성형 AI로 산출된 결과물에는 AI로 만들어졌다는 사실이 표시돼야 하며, 실제와 구분하기 어려운 가상의 결과물에도 해당 내용을 고지 또는 표시할 것을 규정했다.

산업 진흥을 위한 내용도 담겼다. AI 기본법에 따라 과학기술정보통신부 장관은 3년마다 AI 기술 및 산업 진흥을 위한 AI 기본계획을 수립·시행해야 한다. AI 산업 활성화를 위한 규제 특례 조항도 마련됐다. 또 새로운 법에 따라 법인·기관 등이 AI 안전성·신뢰성 확보를 위해 자율적으로 추진하는 검·인증 활동 사업에 대한 지원도 이뤄질 전망이다.

모호한 ‘고영향’ AI 규정…후속 법령 마련 필요

AI 기본법 제정은 본격적 논의의 시작을 알리는 신호탄이다. 국내 AI 산업을 위한 큰 틀은 만들었으나 세부 내용은 담겨 있지 않아 이를 위한 하위 법령과 제도를 준비해야 하는 상황이다.

우선, 고영향 AI에 대한 엄밀한 규정이 필요하다. AI 기본법은 고영향 AI에 해당하는 영역을 △에너지법, 먹는물관리법 등 7개 법의 일부 조항과 △범죄 수사나 체포 업무를 위한 생체인식정보 등으로 정리하고, 이 밖에 영역을 대통령령으로 정하도록 했다. 또한 제4조에 따라 국방 또는 국가안보 목적으로만 개발·이용되는 AI로서 대통령령으로 정하는 경우 적용하지 않는다고 규정하고 있다.

현재 AI 기본법은 여러 내용을 포괄하고 있으나 주어진 내용만으로는 어디까지가 고영향 AI인지 판단하기 어려우며, 몇몇 요소는 대통령령에 의존하고 있다. 그 때문에 일각에서는 지나치게 포괄적인 규정이 아니냐는 지적이 나왔다.

이에 과기정통부 유상임 장관은 지난 12월 17일 법사위에서 “각 개별법으로 규제가 필요한 부분은 후속 법안을 마련해 대응하는 것이 기본법의 취지”라고 설명했다.

시민사회에서는 고영향 AI에 관한 벌칙 조항 미비를 지적했다. 참여연대를 비롯한 시민사회 4개 단체는 11월 21일 성명을 내고 “정부의 사후 시정조치를 따르지 않을 시 과태료를 부과하겠다고 하나, 책무 불이행 자체를 처벌하지 않는다면 고위험 AI 사업자의 책무 이행을 어떻게 보장하겠다는 것인지 알 수 없다”고 비판했다.

국가AI위원회, 데이터센터 지원 등 예산 확보 과제

산업 진흥을 위한 측면에서도 대응이 이어져야 한다. AI 기본법은 기술 개발 및 산업 활성화를 목표로 △기업·공공기관 컨설팅 △중소기업 지원 시책 △AI 산업 창업자 발굴 및 육성 △AI 집적단지 지정 △AI 데이터센터 구축 및 운영 시책 마련 △해외 전문인력 유치를 위한 국제 네트워크 구축 등 여러 규정을 담고 있다.

후속 사업을 위해서는 충분한 예산이 마련돼야 한다. 가령 AI 데이터센터는 수많은 그래픽처리장치(GPU)로 구성되는데, 이를 위해서는 막대한 비용이 소모된다. 그뿐 아니라 컨설팅, 기업 지원, 인재 양성 교육 등에도 적절한 비용 지원이 수반된다. 예산 뒷받침 없이는 AI 기본법 내용을 현실화하는 데 어려움이 따를 수 있다.

문제는 내년 예산안에 필요한 내용이 담겼는가 하는 점이다. 본래 과방위에서는 AI 연구용 컴퓨팅 지원 연구개발(R&D) 프로젝트 예산으로 3,217억 원을 증액했다. 해당 예산은 AI 연구를 위한 GPU 확보 지원 및 데이터센터 구축 비용으로 쓰일 계획이었다. 하지만 이는 최종 예산안에 반영되지 않았다.

업계에 따르면, 국가AI위원회도 내년 예산을 확보하지 못한 것으로 알려졌다. 지난해 9월 26일 대통령 직속으로 출범한 국가AI위원회는 AI 정책 전반을 다루는 민관협력 기구다. AI 기본법이 통과됨에 따라 법정 기구로 승격되며, 앞으로 3년마다 수립될 AI 기본계획의 심의·의결을 맡을 예정이었다.

국가AI위원회는 AI 정책을 논의하는 핵심 기구임에도 내년 사업부터 불투명한 상황이다. 과기정통부가 국회에 예산안을 제출한 이후에 위원회가 출범하며 관련 사업비가 정부안에 반영되지 못한 것이다. 이후 과방위 심의 단계에서 증액이 논의됐으나 추가 예산 확보는 아직 이뤄지지 않았다.

업계 관계자는 “AI 시장은 날이 갈수록 기술뿐 아니라 자본 의존도가 커지고 있다. 특히 GPU 인프라를 마련하는 데는 막대한 비용이 필요하다”며 “국내 AI 시장이 성장하기 위해서는 AI 기본법을 바탕으로 이전보다 과감한 투자가 이뤄져야 할 것”이라고 말했다.