기술/연구

"이제 AI 탈옥 불가능?" 앤트로픽, 역대급 방어 시스템 발표

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.12 18:26

기사 3줄 요약

1 앤트로픽, 강력한 AI 보안 기술 공개
2 탈옥 시도 차단하고 비용 대폭 절감
3 뚫리지 않는 철벽 방어 시스템 구축

최근 챗GPT의 라이벌로 불리는 앤트로픽이 AI 보안 분야에서 엄청난 일을 냈습니다. AI를 속여서 나쁜 정보를 캐내려는 이른바 '탈옥' 시도를 원천 봉쇄하는 기술을 발표한 것입니다. 이 기술은 해커들의 공격을 막아낼 뿐만 아니라, AI를 운영하는 비용까지 획기적으로 줄여준다고 합니다. 보안과 효율이라는 두 마리 토끼를 동시에 잡은 셈이라 업계가 떠들썩합니다.

해킹은 막고, 비용은 내리고

앤트로픽이 공개한 기술의 정식 명칭은 '헌법 분류기++'입니다. 기존에도 AI의 탈옥을 막는 방어 시스템은 있었지만, 몇 가지 치명적인 단점이 있었습니다. 보안을 강화하다 보니 컴퓨터 계산 비용이 너무 많이 들어갔고, 멀쩡한 질문까지 위험하다고 판단해 대답을 거부하는 경우가 많았습니다. 하지만 이번에 나온 새 버전은 이런 문제들을 말끔히 해결했습니다. 기존보다 탈옥 방어 능력은 훨씬 강력해졌는데, 추가로 들어가는 비용은 거의 없다고 합니다. 게다가 아무런 문제가 없는 질문을 거절하는 비율도 획기적으로 낮췄습니다.

사람의 '직감'처럼 판단한다

이 기술의 핵심은 AI가 마치 사람처럼 '직감'을 사용해 위험을 감지한다는 점입니다. 해커들은 보통 나쁜 의도를 숨기기 위해 질문을 쪼개거나 은유적인 표현을 사용해 AI를 속이려 듭니다. 앤트로픽은 이를 막기 위해 '앙상블 방어'라는 독특한 방식을 도입했습니다. 먼저 가벼운 1단계 검사기가 모든 질문을 빠르게 훑어보고, 수상한 낌새가 보일 때만 정밀 검사를 진행하는 방식입니다. 특히 AI가 답변을 생각하는 과정 자체를 들여다보는 기술이 적용되었습니다. AI가 답변을 내뱉기 전에 '어? 이거 좀 위험한데?'라고 느끼는 내부 신호를 포착해 차단하는 것입니다.

뚫리지 않는 철벽 방어

실제로 이 시스템을 적용해서 테스트해 본 결과는 놀라웠습니다. 앤트로픽은 무려 1700시간 동안 19만 건이 넘는 해킹 공격을 시도해 봤지만, 뚫린 취약점은 단 하나뿐이었다고 합니다. 이전 시스템과 비교하면 위험 탐지 실패율이 거의 제로에 가까운 수준으로 떨어졌습니다. 앤트로픽 측은 "어떤 해킹 팀도 이 시스템을 뚫을 방법을 찾지 못했다"며 강한 자신감을 보였습니다. 이제 AI가 더 안전하고 똑똑하게 우리 일상에 스며들 날이 머지않은 것 같습니다. 이 기술이 상용화되면 우리는 더 안심하고 AI 서비스를 이용할 수 있게 될 것입니다.