4분 읽기
- AI는 새로운 유전자, 단백질, 독소를 만드는 데, 잠재적 생물무기 개발에도 활용 가능.
-.생물안전성 시험에서 AI가 생성한 7만6000개의 DNA 서열
- 독소나 바이러스 단백질의 청사진이 크게 변형된 경우 생물안전성 프로그램이 검색 실패
- 생물학적 "제로 데이" 기존 보호 시스템으로는 충분하지 않다.

AI가 생성하는 생물무기 - 얼마나 위험한가?
생물안전 검사는 합성적으로 생성된 유해 DNA를 탐지하지 못하는 경우가 많다.

위험한 조력자:
인공지능은 새로운 유전자, 단백질, 독소를 만드는 데 활용될 수 있으며, 이는 잠재적인 생물무기 개발에도 활용될 수 있다. 하지만 이러한 시도에 대한 현행 통제 체계는 얼마나 잘 준비되어 있을까? 한 연구팀이 이를 시험해 보았다. 연구팀이 "Science"에 보고한 바에 따르면, DNA 제조업체의 자동화된 제어 프로그램은 알려진 위험 단백질의 유전자 서열은 인식했지만, 이와 크게 다른 DNA 서열은 탐지하지 못했다. 그렇다면 그 결과는 무엇일까? 

▲ 잠재적으로 위험한 단백질을 만들기 위해 AI를 사용하여 유전 코드를 구체적으로 수정할 수 있다. © Microsoft Research

인공지능은 텍스트, 비디오, 이미지 또는 컴퓨터 코드를 생성할 수 있을 뿐만 아니라, 화학, 생명공학, 의학 연구실에서 오랫동안 사용돼 왔다. AI 시스템인 알파폴드(AlphaFold)가 단백질 해독 분야에서 획기적인 진전을 이룬 이후, 인공지능이 자연적으로 생성되지 않는 아미노산부터 새로운 유전자, 심지어 합성 단백질까지 완전히 새로운 생체 ​​분자를 설계할 수 있다는 사실이 분명해졌다.

이중 용도 문제

이는 AI 지원 생명공학이 이중 용도 기술이라는 것을 의미한다. 귀중한 의학적 진보를 달성하는 데 도움이 될 수 있지만, 악의적인 목적, 예를 들어 새로운 생물무기 생산에 악용될 수도 있다. AI 모델을 사용해 공격자는 강력한 독극물, 치명적인 바이러스 및 기타 위험 물질의 설계도가 포함된 DNA 시퀀스를 설계하고 일반 실험실에 주문할 수 있다.

알려진 생물무기에 대한 통제 조치는 이미 존재한다. 마이크로소프트의 수석 과학자인 브루스 위트만(Bruce Wittmann)과 그의 동료들은 "DNA 공급 회사는 잠재적으로 위험한 단백질을 암호화하는 유전자가 있는지 고객 주문을 확인하는 생물안전 소프트웨어(BSS)를 사용한다"고 설명했다. 이러한 BSS 시스템은 고객 시퀀스를 알려진 병원균이나 독소의 DNA와 비교하여 작동한다. 일치하는 것이 발견되면 경보가 울리고 고객과 주문에 대한 추가 조사가 진행된다.

생물안전성 시험에서 AI가 생성한 7만6000개의 DNA 서열

하지만 이러한 제어 시스템은 AI가 생성한 생물무기로부터 얼마나 효과적으로 보호할 수 있을까? 일반적인 BSS 프로그램도 잠재적으로 유해한 새로운 단백질과 독소의 DNA 청사진을 탐지할 수 있을까? 비트만과 그의 팀은 이 문제를 조사했다. "단백질 합성에 특화된 세 가지 오픈소스 AI 모델을 사용하여 72가지 유해 단백질의 약 7만6천개 합성 변이체를 만들었다"고 연구진은 보고했다. 여기에는 독소와 일부 바이러스가 모두 포함되었다.

다음 단계에서 연구진은 이러한 합성적이고 잠재적으로 위험한 생체 분자의 DNA 서열을 DNA 제조업체에서 일반적으로 사용하는 생물안전성 검사 시스템인 BSS 프로그램을 개발하는 네 곳의 회사에 보냈다. 이 회사들은 모든 서열의 잠재적 위험을 검사했다.

▲ 생물안전 소프트웨어는 고객의 DNA 주문을 검색하여 알려진 유해 단백질이나 병원균의 서열을 파악한다. 그러나 이러한 생물안전 소프트웨어 프로그램은 AI를 사용해 변형되거나 "의역된" DNA 서열을 감지하지 못하는 경우가 많다. © Microsoft Research

심각하게 변형된 DNA로 인한 시스템 실패

테스트 결과, 검사 프로그램은 천연 DNA 서열과 비교적 유사한 대부분의 DNA 서열을 탐지했다. 그러나 독소나 바이러스 단백질의 청사진이 크게 변형된 경우에는 생물안전성 프로그램이 실패했다. "BSS는 잠재적으로 유해한 단백질의 유전자를 포함하는 서열을 안정적으로 검출하지 못했다"고 Wittmann과 그의 팀은 보고했다.

이러한 현상은 BSS 개발 회사 4곳 중 3곳이 첫 번째 테스트 실행 후 시스템을 수정하고 최적화하려고 시도했을 때에도 변하지 않았다. 연구진은 "그럼에도 불구하고 BSS 시스템 중 어떤 것도 높은 인실리코(in silico) 값을 가진 모든 단백질을 식별하지 못했다"고 지적했다. 후자는 심하게 변형된 합성 서열을 의미한다. 무해한 유전자와 유사하지만 몇 가지 중요한 편차를 포함하는 DNA 서열은 특히 검출하기 어려웠다.

기존 보호 시스템으로는 충분하지 않다.

연구진에 따르면, 이 테스트는 AI가 생성한 유전자와 단백질이 많은 기회를 제공하지만 새로운 위협을 초래할 수도 있으며, 이러한 위협을 억제하기는 쉽지 않을 것임을 보여준다. Wittmann과 그의 동료들은 "장기적으로 서열 기반 생물안전성 검사만으로는 충분하지 않을 것"이라고 지적했다. "미래에는 단백질 설계에 특화된 AI 시스템이 자연 모델과 유사하지 않은 단백질의 DNA 서열도 생성할 것이기 때문이다.“

따라서 연구진은 과학, 상업, 정치적 차원에서 AI가 생성하는 새로운 생물무기에 대한 보호 조치를 개발하는 것이 중요하다고 말한다. 과학계에는 이러한 잠재적으로 유해한 생명공학 제품의 개발을 막기 위한 자발적인 노력들이 이미 존재한다. 하지만 본에 있는 독일 생명과학윤리기준센터(DRZE)의 연구원이자 소장인 디르크 란체라트(Dirk Lanzerath)는 정부 기관 또한 더욱 적극적으로 나서야 할 필요가 있다고 지적했다. 그는 이 연구에 참여하지 않았다.

란체라트는 "AI 지원 단백질 설계는 특히 보안 관련 연구 분야의 연구 윤리 문제와 관련된 '이중 용도' 문제를 다룬다. 전 세계적인 오용 위험을 고려할 때, 표준, 표준 구현 및 조화에 대한 국제적인 교류가 필수적이다"고 말했다.

생물학적 "제로 데이"

그러나 비트만과 그의 동료들은 이러한 잠재적으로 위험한 DNA 서열이 있다고 해서 범죄자들이 이러한 유전자에 의해 암호화된 단백질과 독소를 생성할 수 있다는 것을 자동적으로 의미하는 것은 아니라고 강조했다. 이러한 제품들이 정말로 위험하고 안정적이며 생물무기로 사용될 수 있는지는 전혀 확실하지 않다.

그런데도 연구진은 연구 과정에서 생성된 잠재적으로 유해한 시퀀스가 ​​매우 위험하다고 판단하여 비밀로 유지하고 공개하지 않고 있다. 과학자들조차도 국제 생물보안 및 생물안전성 과학 이니셔티브(IBBIS)의 다단계 승인 및 검토 절차를 거쳐야 접근 권한을 부여받는다.

연구진은 "BSS 시스템의 이 취약점을 '제로데이'의 생물학적 버전으로 간주하기로 결정했다."라고 설명했다. IT 업계에서 제로데이는 아직 패치가 제공되지 않은 새로 발견된 취약점 또는 보안 허점으로 정의된다.

참고: Science, 2025; doi: 10.1126/science.adu8578
출처: Science, 미국 과학 진흥 협회(AAAS), Science Media Center

[더사이언스플러스=문광주 기자]

[저작권자ⓒ the SCIENCE plus. 무단전재-재배포 금지]