기술/연구

“그냥 요약만 시켰을 뿐인데…” AI가 내 이메일을 전부 삭제했다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.28 01:23

기사 3줄 요약

1 AI 브라우저 비서, 웹사이트 숨은 명령어에 조종당할 위험 노출
2 앤트로픽 실험 결과, 4번 중 1번꼴로 해킹 공격에 성공해 충격
3 전문가들, “재앙적 수준”이라며 AI 비서의 근본적 보안 결함 경고

인공지능(AI) 비서가 웹 브라우저 안으로 들어와 우리를 돕는 시대가 열리고 있습니다. 하지만 동시에 심각한 보안 문제가 새롭게 나타났습니다. 우리가 방문하는 웹사이트가 AI 비서를 몰래 해킹해 나쁜 일에 이용할 수 있다는 점입니다. 최근 한 AI 기업의 테스트에 따르면, AI 비서는 4번 중 1번꼴로 해킹 공격에 속수무책으로 당하는 것으로 드러났습니다.

그래서, 이게 어떻게 가능한 건데?

이러한 해킹은 ‘프롬프트 인젝션’이라는 방식으로 이루어집니다. 웹사이트 개발자가 눈에 보이지 않는 악성 명령어를 페이지에 숨겨두면, AI 비서가 이 명령을 읽고 그대로 실행하는 것입니다. 예를 들어, 사용자가 악성 이메일의 요약을 AI에게 지시하면 AI는 숨겨진 ‘메일함을 정리하라’는 명령을 따릅니다. 그 결과, 사용자도 모르는 사이에 모든 이메일을 삭제해 버릴 수 있습니다. 실제로 브라우저 개발사 브레이브의 보안팀에 따르면, 퍼플렉시티의 코멧 브라우저가 커뮤니티 사이트 레딧 게시물에 숨겨진 명령에 속아 지메일 계정에 접근하는 취약점이 발견되기도 했습니다.

빅테크들은 뭐하고 있나?

이런 위험에도 불구하고 AI 기업들의 경쟁은 치열합니다. 오픈AI의 ‘챗GPT 에이전트’, 구글의 ‘제미나이’, 그리고 최근 앤트로픽의 ‘클로드 포 크롬’까지 AI 비서 기능은 계속해서 출시되고 있습니다. 앤트로픽은 이런 문제를 해결하기 위해 여러 안전장치를 마련했다고 밝혔습니다. 사용자가 위험한 행동을 승인하게 하거나, 금융 사이트 같은 민감한 웹사이트 접근을 막는 방식입니다. 이런 조치로 공격 성공률은 23.6%에서 11.2%까지 줄었습니다. 하지만 여전히 10번 중 1번은 공격에 뚫리는 셈입니다.

그럼 우리는 어떡해야 해?

AI 보안 전문가 사이먼 윌리슨은 11.2%라는 공격 성공률조차 ‘재앙적인’ 수준이라고 강력하게 경고했습니다. 그는 현재의 AI 브라우저 비서 기술 자체가 근본적으로 안전하게 만들어질 수 없는 구조라고 지적합니다. 결국 AI 기업들이 완벽한 해결책을 내놓기 전까지, 보안의 책임은 사용자에게 돌아갑니다. AI 비서가 제공하는 편리함은 매력적이지만, 그 이면에는 개인 정보가 순식간에 털릴 수 있는 큰 위험이 숨어있다는 사실을 반드시 기억해야 합니다.