기술/연구

"AI가 만든 신종 독극물, 보안망 그냥 뚫렸다" MS의 섬뜩한 경고

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.04 05:55

기사 3줄 요약

1 MS, AI가 설계한 신종 독성 단백질이 보안망 뚫는 것 발견
2 실험 결과 개선된 탐지 시스템도 위험 변종 1~3%는 놓쳐
3 AI 생화학 무기 위협 현실화, 새로운 보안 대책 마련 시급

마이크로소프트(MS) 연구진이 누구도 예상치 못한 생물학적 보안 시스템의 치명적인 구멍을 발견했다고 발표했습니다. ‘생물학적 제로데이’로 불리는 이 문제는 인공지능(AI)이 설계한 새로운 종류의 독성 단백질이 기존의 위협 탐지 시스템을 아무런 제재 없이 통과할 수 있다는 점입니다. 이는 마치 얼굴만 보고 범인을 잡는 경비 시스템이 성형수술한 범인은 전혀 알아보지 못하는 것과 같은 상황입니다.

그래서, 뭐가 문제라는 거야?

현재 유전자를 합성해 주는 회사들은 누군가 위험한 물질의 DNA를 주문하는지 감시하는 시스템을 갖추고 있습니다. 알려진 바이러스나 독성 단백질의 DNA 정보를 대조해보고, 일치하면 주문을 막는 방식입니다. 하지만 AI 기술이 발전하면서 문제가 생겼습니다. AI는 기존 독성 단백질과 기능은 같지만, DNA 염기서열은 전혀 다른 새로운 단백질을 만들어낼 수 있습니다. 이 새로운 단백질들은 감시 시스템의 목록에 없기 때문에, 아무런 제재 없이 통과될 수 있는 위험이 생긴 것입니다.

MS가 직접 실험해봤다고?

이 가설을 확인하기 위해 MS 연구팀은 직접 행동에 나섰습니다. 3개의 오픈소스 AI를 이용해 리신(ricin)과 같은 유명 독극물을 포함한 72종의 독소에 대한 변종 단백질 약 7만 5천 개를 생성했습니다. 그리고 이 AI가 만든 단백질들의 DNA 염기서열 정보를 현재 사용되는 4개의 DNA 주문 검열 소프트웨어에 입력해 탐지 능력을 시험했습니다. 연구 결과는 국제유전자합성컨소시엄(IGSC) 및 미국 정부 기관에도 공유되었습니다.

결과는 어땠는데?

결과는 충격적이었습니다. 4개의 검열 소프트웨어는 성능에 큰 차이를 보였습니다. 2개는 비교적 잘 작동했지만, 1개는 보통 수준이었고, 나머지 1개는 대부분의 위협을 놓쳤습니다. MS의 경고 이후 3개의 소프트웨어는 긴급 업데이트를 진행했지만, 여전히 구조적으로 매우 유사한 위험 변종 단백질 중 1~3%는 탐지하지 못하는 한계를 보였습니다. 아래 표는 각 프로그램의 가상 탐지율 변화를 보여줍니다.

검열 프로그램	업데이트 전 탐지율	업데이트 후 탐지율
프로그램 A	95%	98%
프로그램 B	80%	92%
프로그램 C	60%	85%
프로그램 D	30%	업데이트 안 됨

그럼 이제 우린 다 끝난 걸까?

다행히 당장 큰 위협이 되는 상황은 아닙니다. AI가 만든 수많은 단백질 변종 중 실제로 독성을 띠는 것을 찾아내려면 너무 많은 시간과 비용이 들기 때문입니다. 수십 개 이상을 주문하고 실험해야 하므로, 그 과정에서 발각될 확률이 높습니다. 하지만 이번 연구는 중요한 경고등을 켠 셈입니다. AI 단백질 설계 기술은 무서운 속도로 발전하고 있습니다. 언젠가 AI가 기존 위협과 전혀 다른, 완전히 새로운 방식의 독성 단백질을 설계할 수도 있습니다. 단순 DNA 서열 비교를 넘어, 단백질의 ‘기능’ 자체를 예측하고 차단하는 차세대 보안 기술 개발이 시급하다는 목소리가 커지고 있습니다.