[AI 만난 신약개발]③ “생물 무기 악용 우려” 규제 전에 기업 나서 경쟁력 키워야
국내출처: 조선비즈
[AI 만난 신약개발]③ “생물 무기 악용 우려” 규제 전에 기업 나서 경쟁력 키워야
전 세계 연구자 160여명, AI 기술 오용 막자고 성명 발표
규제 강화 전에 한국도 기술 확보 서둘러야
미국처럼 네이버·카카오, 빅테크도 연구 투자 필요
“We will conduct research for the benefit of society and refrain from research that is likely to cause overall harm or enable misuse of our technologies.(우리는 사회의 이익을 위한 연구를 수행하며, 사회 전반에 피해를 야기하거나 기술의 오용 가능성이 있는 연구는 자제할 것입니다.)”
지난 3월 8일, 단백질 설계 분야의 세계 최고 석학인 데이비드 베이커 미국 워싱턴대 교수를 중심으로 전 세계 연구자 수십여명이 ‘책임감 있는 AI X 바이오디자인(Responsible AI x Biodesign)’이라는 제목의 성명을 발표했다. 인공지능(AI)으로 단백질을 설계하는 세계적인 연구자들이 대부분 성명에 이름을 올렸다.
전 세계 연구자들이 합의한 약속 10가지 중 첫 번째는 사회 전반에 피해를 야기하거나 그럴 가능성이 있는 연구는 하지 않겠다는 내용이었다. 처음에는 수십명 수준이었던 서명자는 4월 16일 기준으로 164명까지 늘었다.
작년 11월 1일~2일 양일간 영국 정부가 주최한 ‘AI Safety Summit’(AI 안전성 정상회의)가 전세계 28개국 장관들이 참석한 가운데 개최됐다./로이터 연합뉴스
베이커 교수의 제자이자 성명에 참여한 백민경 서울대 생명과학부 교수는 “생성형 AI를 이용한 연구의 위험성에 대한 경고가 나오면서 작년 10월부터 성명에 대한 논의가 진행됐다”고 말했다. 백 교수는 “과학자들 사이에서 부작용 없이 AI를 단백질 설계에 이용할 수 있을지 가이드라인을 만들어보자는 이야기가 나왔다”며 “대여섯 차례 의견 교환을 거쳐 성명문을 완성했다”고 했다
.
과학자들이 위험하지 않은 연구를 하겠다고 약속을 해야 할 정도로 AI 기술은 경계의 대상이 되고 있다. 단백질 설계와 분석에 이용되는 AI 기술은 조금만 용도를 바꾸면 세상에 없던 치명적 바이러스나 생화학 무기를 만드는 데 이용될 수 있기 때문이다.
미국 AI 스타트업인 앤트로픽의 다리오 아모데이 최고경영자(CEO)는 지난해 미국 상원 사법위원회 소위원회에서 열린 청문회에 참석해 “AI 기술이 아직 숙련되지는 않았지만, 악용될 경우 광범위한 질병과 사망을 일으키는 바이러스나 독성 물질을 만드는 데 이용될 수 있다”고 답하기도 했다.
AI를 이용한 단백질 설계 기술은 아직 초기 단계이다. 성명을 주도한 베이커 교수도 “단백질 설계는 합성 단백질을 만드는 첫 단계에 불과하다”며 “실제 DNA를 합성하고 설계를 컴퓨터에서 실제 세계로 옮겨야 하는 지점이 규제가 필요한 지점”이라고 말했다. 과학자들은 당장 위협이 되지는 않아도 AI 기술이 발전한다면 실질적 위협이 될 수 있는 만큼 일찍 규제안을 마련해야 한다고 본다.
2018~2022년 단백질 구조예측 및 디자인 분야에 대한 정부 R&D 투자 추이./KISTEP
미국에 비해 한국에서는 아직 AI 기술 규제에 대한 목소리가 높지 않다. 하지만 미국에서 시작된 규제 논의가 결국에는 전 세계 연구자들에게 적용될 수밖에 없는 만큼 한국도 상황을 주시할 필요가 있다. 연구 현장에서는 강도 높은 규제가 자리잡기 전에 한국도 정부 차원의 적극적인 투자와 지원을 통해 기술 수준을 높이고, 선두 연구 그룹을 도와야 한다는 지적도 나왔다.
한국과학기술평가연구원(KISTEP)에 따르면, 2018년부터 2022년까지 단백질 구조예측과 디자인에 투자된 정부 예산은 1095억원으로 연평균 219억원에 그쳤다. 2022년에는 147억원으로 전년 2021년 257억원보다 오히려 예산이 줄었다. 윤석열 정부가 출범하고 AI와 첨단 바이오를 전략기술로 지정하면서 관련 투자가 다시 늘었지만, 앞서 정부 차원의 투자가 주춤한 여파가 지금도 영향을 주고 있다는 말도 있다. KISTEP 관계자는 “AI 기반 단백질 구조예측과 디자인은 산업이 형성되기 시작하는 초기 단계여서 각국에서 지원 정책을 많이 내놓고 있다”며 “우리 연구진이 선도적 위치를 확보할 수 있도록 적극적으로 지원해야 한다”고 말했다.
미국이나 유럽은 정부 뿐만 아니라 빅테크들의 투자 규모가 크기 때문에 연구비를 구하는 데 어려움이 없다. 구글, 메타, 엔비디아 같은 IT(정보기술) 빅테크 기업들이 AI 단백질 설계에 뛰어들면서 막대한 자금이 투입되고 있다. 연구자들은 한국도 정부 지원 외에 기업들이 단백질 구조 예측과 설계 AI 기술에 더 적극적으로 투자해야 한다고 지적했다.
AI로 단백질 치료제 연구를 하고 있는 박한범 한국과학기술연구원(KIST) 뇌과학연구소 선임연구원은 “치료제 개발을 앞당기기 위해 가장 필요한 건 실험을 위한 인프라인데, 국내에서는 인프라가 갖춰져 있지 않아 실험 한 번 하기 위해 기다리는 일이 잦다”며 “미국의 아마존, 메타, 마이크로소프트가 학술적인 연구에도 많은 지원을 하듯이 국내에서도 네이버나 카카오 같은 테크 기업이 다양한 분야의 AI 개발에 도움을 주면 좋겠다”고 말했다.