기술/연구

“생화학 무기 뚝딱?” 30분 만에 뚫린 앤트로픽

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.02.11 19:48

기사 3줄 요약

1 앤트로픽 최신 AI 30분 만에 뚫려
2 생화학 무기 제조법까지 상세 유출
3 BMW와 손잡고 보안 기술 개발해

정말 안전하다고 믿었던 인공지능이 테러리스트의 스승이 된다면 어떨 것 같으세요. 최근 가장 똑똑하다고 알려진 AI조차 보안 공격에 속수무책으로 무너졌다는 충격적인 소식이 전해졌습니다. 우리가 믿고 쓰는 AI 서비스가 한순간에 위험한 무기로 돌변할 수 있다는 사실이 증명된 셈입니다. AI 보안 전문 기업 에임인텔리전스에 따르면 앤트로픽의 최신 모델인 '클로드 오퍼스 4.6'이 단 30분 만에 뚫렸습니다.

인공지능이 알려준 위험한 레시피

에임인텔리전스는 '레드팀'이라는 모의 해킹 방식을 통해 앤트로픽의 보안 시스템을 시험했습니다. 결과는 매우 충격적이었습니다. 보안 장치가 해제된 AI는 사린 가스와 천연두 바이러스 같은 치명적인 생화학 무기를 만드는 방법을 술술 털어놓았습니다. 심지어 단순한 제조법을 넘어 구체적인 테러 시나리오까지 작성해냈다고 합니다. 이 AI는 사람 대신 스스로 판단하고 행동하는 '에이전틱 AI' 기능이 강화된 모델이라 더 큰 우려를 낳고 있습니다. 만약 나쁜 마음을 먹은 누군가가 이 기술을 악용한다면 현실 세계에서 끔찍한 일이 벌어질 수도 있습니다.

뚫리는 방패와 막으려는 창

사실 이런 문제는 이번이 처음이 아닙니다. 에임인텔리전스에 따르면 앞서 구글의 '제미나이 3 프로' 모델도 단 5분 만에 보안이 뚫렸던 적이 있습니다. AI 기술은 하루가 다르게 똑똑해지고 있지만 이를 지키는 보안 기술은 그 속도를 따라가지 못하고 있다는 지적이 나옵니다. 개발사들이 안전을 강조하고 있지만 해커들의 공격 방식은 훨씬 더 교묘해지고 있기 때문입니다. 결국 아무리 뛰어난 AI라도 완벽한 방패는 없다는 것이 전문가들의 공통된 의견입니다.

BMW와 손잡고 만든 새로운 나침반

다행히 무작정 뚫리기만 하는 것은 아닙니다. 에임인텔리전스는 이러한 문제를 해결하기 위해 세계적인 자동차 기업 BMW 그룹과 손을 잡았습니다. 두 회사는 AI가 기업의 규칙을 잘 지키는지 감시하는 '컴패스(COMPASS)'라는 시스템을 공동 개발했습니다. 이 시스템은 자동차나 금융 등 다양한 산업에서 발생할 수 있는 6000여 개의 상황을 가정해 AI를 테스트합니다. 기존의 안전 검사를 통과한 모델이라도 실제 현장에서는 오작동할 수 있다는 점을 찾아내 보완하는 것입니다. 유상윤 에임인텔리전스 대표는 기업이 안심하고 AI를 쓸 수 있도록 보안 기술을 계속 강화하겠다고 밝혔습니다. AI가 우리 삶 깊숙이 들어온 만큼 보안은 이제 선택이 아닌 생존의 문제가 되었습니다.