기술/연구

“지메일 정보 다 털렸다” ChatGPT AI 에이전트의 치명적 결함

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.09.19 03:45

기사 3줄 요약

1 ChatGPT AI 에이전트, '섀도리크' 해킹 공격에 뚫려
2 악성 이메일 속 숨은 명령어로 지메일 정보 무단 유출
3 개인정보 연결 AI의 심각한 보안 취약점 드러나

최근 OpenAI가 만든 인공지능(AI) 비서 ‘딥 리서치(Deep Research)’에서 심각한 보안 문제가 발견됐습니다. 해커가 이 AI를 조종해 사용자 지메일(Gmail) 계정의 비밀 정보를 몰래 빼돌린 것입니다. 보안 회사 레드웨어(Radware)에 따르면, 이 공격은 사용자가 아무런 행동을 하지 않아도, 또 흔적도 없이 조용히 이뤄져 더 큰 충격을 주고 있습니다.

AI가 어떻게 내 이메일을 훔쳐봐?

이번에 발견된 해킹 수법의 이름은 ‘섀도리크(ShadowLeak)’입니다. 이 공격은 ‘프롬프트 인젝션’이라는 기술을 사용하는데, 이는 AI에게 교묘하게 숨겨진 명령어를 주입하는 방식입니다. 해커는 먼저 목표 대상에게 악성 명령어가 숨겨진 이메일을 보냅니다. 사용자의 지메일과 연결된 AI 비서는 이메일을 분석하다가, 숨겨진 명령어를 보고 마치 사용자가 시킨 일인 것처럼 착각하게 됩니다. 결국 AI는 이메일 속 개인정보나 회사 기밀을 해커가 만들어 둔 웹사이트로 스스로 전송합니다. 마치 영화 속 ‘제다이 마인드 트릭’처럼 AI가 속아 넘어가 원치 않는 행동을 하게 만드는 것입니다.

그냥 해킹이랑 뭐가 다른 건데?

섀도리크 공격이 특히 무서운 이유는 기존 해킹과 달리 사용자의 클릭이나 별도 조작이 전혀 필요 없다는 점입니다. AI 비서는 원래 이메일 분석, 웹사이트 방문 등 많은 일을 스스로 할 수 있게 만들어졌기 때문입니다. 이러한 자율적인 기능이 해커에게는 오히려 공격의 통로가 된 것입니다. AI가 이메일, 문서 등 온갖 개인 정보에 접근할 수 있는 ‘만능 열쇠’를 쥐고 있었던 셈입니다. 더 큰 문제는 정보가 유출되어도 사용자는 그 사실을 전혀 눈치채기 어렵다는 것입니다. AI가 뒤에서 조용히 시키는 일을 했을 뿐, 겉으로는 아무런 이상 신호가 나타나지 않습니다.

OpenAI는 뭐하고 있었대? 앞으로는 어떡해?

레드웨어는 이 문제를 발견한 즉시 OpenAI에 알렸고, 현재 OpenAI는 해당 공격을 막기 위한 조치를 취한 상태입니다. 하지만 전문가들은 이것이 임시방편에 불과할 수 있다고 경고합니다. 프롬프트 인젝션이라는 공격 방식 자체가 AI 모델의 근본적인 특성을 이용하는 것이라 완벽하게 막기가 매우 어렵기 때문입니다. 이번 사건은 AI 기술의 편리함 이면에 얼마나 큰 보안 위협이 숨어있는지를 명확히 보여줍니다. 따라서 전문가들은 AI 에이전트를 개인 이메일이나 중요한 문서에 연결할 때는 매우 신중해야 한다고 조언합니다. AI에게 모든 것을 믿고 맡기기 전에, 우리는 그 위험성에 대해 충분히 고민해 봐야 할 것입니다.