기술/연구

“내 컴퓨터가 저절로 움직인다?” AI 비서의 배신, 해킹 위험 경고

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.28 02:30

기사 3줄 요약

1 AI 인터넷 비서, 숨겨진 명령에 해킹당할 위험 노출
2 앤트로픽 자체 실험 결과, 4번 중 1번꼴로 공격 성공
3 전문가들 “치명적 결함”, 사용자 주의 강력 경고

인공지능(AI) 비서가 인터넷 브라우저를 마음대로 조종하는 시대가 열리면서, 새로운 보안 문제가 수면 위로 떠올랐습니다. 최근 오픈AI의 강력한 경쟁사로 꼽히는 앤트로픽은 ‘클로드 포 크롬’이라는 새로운 AI 비서 서비스를 공개했습니다. 이 서비스는 사용자를 대신해 이메일을 쓰고, 회의 일정을 잡는 등 다양한 인터넷 작업을 자동으로 처리해 줍니다. 하지만 이 편리함 뒤에는 심각한 위험이 숨어있었습니다. 웹사이트에 교묘하게 숨겨진 악성 명령어를 AI 비서가 그대로 실행해 버리는 ‘프롬프트 인젝션’ 공격에 취약하다는 사실이 드러난 것입니다. 이는 마치 보이지 않는 손이 내 컴퓨터를 조종하는 것과 같습니다.

그래서, 그게 뭔데?

AI 브라우저 비서는 인터넷 창 옆에 붙어서 내가 시키는 일을 알아서 해주는 똑똑한 개인 비서와 같습니다. 예를 들어 이메일 답장을 대신 써주거나, 여러 사이트의 정보를 모아 보고서를 만들어주는 식입니다. 최근 앤트로픽뿐만 아니라 오픈AI, 구글 등 여러 거대 기술 기업들이 경쟁적으로 이런 AI 비서 개발에 뛰어들고 있습니다. 인터넷을 사용하는 방식 자체가 완전히 바뀔 수 있는 혁신적인 기술이기 때문입니다. 하지만 이 기술 경쟁이 과열되면서, 가장 중요한 ‘보안’ 문제가 뒷전으로 밀려났다는 비판이 나오고 있습니다.

얼마나 위험한 거야?

놀랍게도 위험성을 경고한 것은 앤트로픽 자신입니다. 앤트로픽의 발표에 따르면, 자체적으로 123가지 해킹 시나리오를 테스트한 결과, 별다른 안전장치가 없으면 공격 성공률이 23.6%에 달했습니다. 즉, 네 번 공격하면 한 번은 뚫리는 셈입니다. 한 예시에서는 악성 이메일에 담긴 ‘메일함 정리’라는 거짓 지시에 AI가 속아 사용자 허락도 없이 이메일을 삭제해 버렸습니다. 중요한 메일이 순식간에 사라질 수 있다는 의미입니다. 앤트로픽은 여러 안전장치를 추가해 이 성공률을 11.2%까지 낮췄다고 밝혔습니다. 하지만 전문가들은 여전히 ‘재앙적인 수준’이라며 심각한 우려를 표하고 있습니다.

그럼 이제 어떡해야 해?

이러한 위험은 단순히 이론에 그치지 않습니다. 최근 보안업체 브레이브에 따르면, 경쟁 서비스인 퍼플렉시티의 AI 비서는 레딧 게시글에 숨겨진 명령에 속아 사용자의 지메일 계정에 접근하는 실제 해킹 사례가 발견되기도 했습니다. AI 보안 전문가인 사이먼 윌리슨은 “현재로서는 AI 브라우저 비서라는 개념 자체가 치명적인 결함을 가졌을 수 있다”고 강력하게 경고했습니다. 결국 완벽한 보안 기술이 나오기 전까지, 이 편리한 AI 비서를 사용하는 것에 대한 책임은 온전히 사용자에게 돌아갑니다. 앤트로픽 역시 이런 이유로 현재 1000명의 유료 구독자에게만 서비스를 시범 운영하고 있습니다.