[아이티데일리] 인공지능(AI)이 설계한 단백질이 생물 무기로 사용될 수 있다는 가능성이 제기되고 있다. 그 가능성과 과도한 정부 규제를 차단하기 위해 과학자들이 최근 단백질 AI 디자인의 안전하고 윤리적인 사용을 요구하는 움직임을 본격화했다고 네이처지가 보도했다.

안전 지침을 마련하기 위한 자발적인 과학자 그룹에 참여하고 있는 시애틀 워싱턴대학교 전산 생물물리학 교수 데이비드 베이커는 “현 시점에서는 AI를 활용한 단백질 설계의 장점이 잠재적인 위험을 크게 앞서고 있지만, AI를 활용해 생물학 무기로 활용될 수 있는 단백질이 만들어질 수도 있다”고 지적했다.

이번 자발적인 그룹에는 AI를 단백질 설계에 활용하는 수십 명의 과학자들이 서명했다. 이들은 과학자들의 자발적인 노력과 이니셔티브도 필요하지만, 정부의 적절한 조치와 규칙도 필요하다고 강조했다.

출범한 과학자 그룹의 이니셔티브는 알파폴드(AlphaFold)와 같은 단백질 구조 예측 네트워크부터 챗GPT 등 대규모 언어 모델(LLM)에 이르기까지 생성형 AI 도구가 새로운 독소나 전염성이 높은 바이러스 등 생물학적 무기 개발을 더 쉽게 만들 가능성을 탐구하는 의회, 싱크탱크, 기타 연구기관의 각종 보고서에 이어 출범한 것이다.

베이커 교수와 동료 등 연구자들은 수십 년 동안 새로운 단백질을 설계하고 만들기 위해 노력해 왔다. 최근 몇 년 동안 AI의 발전으로 인해 단백질 생산 능력은 폭발적으로 증가했다. 특정 분자에 결합하는 단백질을 설계하는 것과 같이, 한때는 몇 년이 걸리거나 불가능했던 단백질 설계가 이제 몇 분 안에 완료될 수 있다. 설계를 위해 과학자들이 개발한 대부분의 AI 도구는 무료로 사용할 수 있다.

디자인된 단백질의 악의적인 사용 가능성을 조사하기 위해 워싱턴 대학의 ‘베이커 단백질 디자인 연구소’는 지난해 10월 AI 안전 서밋을 개최했다. 베이커는 “문제는 어떤 방식으로든 단백질 디자인을 어떻게 규제해야 하는지, 그리고 위험이 있다면 그것이 무엇인지에 대한 것이었다”고 말한다.

그와 미국, 유럽, 아시아의 수십 명의 과학자들이 발표한 계획은 바이오디자인 커뮤니티에 자체 경찰(자기 규제)을 요구하고 있다. 여기에는 정기적으로 AI 도구의 기능을 검토하고 연구를 모니터링하는 것이 포함된다. 베이커는 AI 소프트웨어가 널리 사용되기 전에 이를 검토하고, 필요한 경우 '가드레일'을 권장하는 전문가 위원회를 설립할 것도 소망했다.

이 이니셔티브는 또한 AI가 설계한 단백질을 실제 분자로 변환하는 핵심 단계인 DNA 합성에서 향상된 선별 작업을 요구하고 있다. 현재 이 서비스를 제공하는 많은 회사는 독소 또는 병원균 등 무기화할 수 있는 해로운 분자를 식별하도록 요구하는 산업 그룹 국제유전자합성컨소시엄(IGSC)에 가입되어 있다. 샌프란시스코에 있는 DNA 합성 회사 트위스트 바이오사이언스의 생물보안 책임자이자 IGSC 의장인 제임스 디건스는 "AI가 생성하는 위협을 방어하는 가장 좋은 방법은 이러한 위협을 탐지할 수 있는 AI 모델을 갖추는 것"이라고 강조했다.

정부 또한 AI로 인한 생물보안 위험과 씨름하고 있다. 지난해 10월 바이든 미국 대통령은 이 위험에 대한 평가를 요구하는 한편, 연방 자금 지원 연구에서 DNA 합성 검사를 요구할 가능성을 높이는 행정 명령에 서명했다.

베이커는 그러나 정부 규제가 AI가 설계한 단백질이 생산할 수 있는 약물, 백신 및 재료의 개발을 총체적으로 제한하는 것을 경계해야 할 것이라고 지적했다. 스탠포드 대학의 미생물학자인 데이비드 렐만은 과학자들이 주도하는 노력만으로는 AI의 안전한 사용을 보장하기에 충분하지 않다며 각계의 총체적인 노력이 필요할 것이라고 강조했다.