이슈/트렌드

“AI 비서가 해커로 돌변?” MS의 경고는 사실 책임 회피용 꼼수였다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.20 05:44

기사 3줄 요약

1 MS 윈도우 새 AI 기능, 해킹 및 정보 유출 위험 경고
2 전문가들, 기술 결함 사용자에게 책임 전가하는 꼼수 비판
3 AI 환각·프롬프트 인젝션 취약점 해결 못 한 채 출시 논란

마이크로소프트(MS)가 윈도우의 새로운 인공지능(AI) 기능이 기기를 감염시키고 데이터를 훔칠 수 있다는 충격적인 경고를 내놨습니다. ‘코파일럿 액션’이라는 이 기능은 파일 정리, 회의 예약 같은 복잡한 작업을 대신해주는 AI 비서입니다. 하지만 MS는 이 기능을 켜기 전에 보안 위험을 충분히 이해해야 한다고 이례적으로 밝혔습니다.

진짜 위험한 거야?

AI는 가끔 사실이 아닌 정보를 진짜처럼 말하는 ‘환각’ 증상을 보입니다. 더 큰 문제는 ‘프롬프트 인젝션’이라는 해킹 공격에 매우 취약하다는 점입니다. 이는 해커가 웹사이트나 이메일에 숨겨놓은 악성 명령을 AI가 그대로 따르게 만드는 수법입니다. 실제로 한 보안 연구팀에 따르면, 이 취약점을 이용해 개발자의 AI 비서가 개인 파일에 접근해 급여 정보 같은 민감 정보를 유출하는 시연이 가능했습니다. 심지어 사용자가 아무것도 클릭하지 않아도 이메일을 통해 데이터가 유출되는 ‘제로 클릭’ 공격까지 발견되었습니다.

MS는 왜 경고만 하는 걸까?

많은 보안 전문가는 MS의 경고가 사실상 ‘책임 회피’에 불과하다고 비판합니다. 과거 MS가 오피스 프로그램의 ‘매크로’ 기능이 위험하다고 경고했지만, 수많은 해킹이 발생했던 것과 똑같은 상황이라는 것입니다. 보안 전문가 케빈 보몽은 이 기능을 ‘슈퍼히어로급 스테로이드를 맞은 매크로’에 비유하며 훨씬 더 위험하다고 지적했습니다. 일반 사용자가 복잡한 AI의 보안 문제를 이해하고 스스로를 보호하는 것은 거의 불가능하기 때문입니다. 결국 문제가 생겨도 ‘우리는 경고했다’며 책임을 사용자에게 떠넘기려는 의도라는 비판이 거셉니다.

그럼 앞으로 어떻게 되는 건데?

현재 이 기능은 일부 사용자만 쓸 수 있는 ‘실험용’입니다. 하지만 전문가들은 머지않아 모든 윈도우 사용자의 기본 기능으로 탑재될 가능성이 높다고 우려합니다. 그렇게 되면 기술에 익숙하지 않은 사람들까지 위험에 노출될 수 있습니다. 기술 기업들이 혁신을 서두르는 것도 좋지만, 사용자의 안전을 지키는 것이 먼저라는 목소리가 커지고 있습니다. AI 시대의 편리함 이면에 숨겨진 위험을 제대로 알고 대비해야 할 시점입니다.