기술/연구

“컴퓨터 속 AI 비서가 해커?” 윈도우11 보안 구멍 논란

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.19 05:34

기사 3줄 요약

1 윈도우11, 스스로 일하는 새로운 AI 비서 기능 추가
2 악성코드 감염 및 해킹 등 심각한 보안 위험 노출
3 마이크로소프트, 보안 강화 나섰지만 논란은 계속

마이크로소프트(MS)가 윈도우11에 스스로 일을 처리하는 인공지능(AI) 비서 기능을 도입합니다. 이 AI 비서는 파일 정리, 회의 예약, 이메일 전송과 같은 일상 업무를 알아서 처리해 사용자의 편의성을 크게 높일 것으로 기대됩니다. 하지만 편리함의 이면에는 ‘새로운 보안 위협’이라는 어두운 그림자가 존재합니다.

그래서 그 AI 비서가 뭔데?

새롭게 도입되는 기능은 ‘에이전트 AI’라고 불립니다. 쉽게 말해, 사용자의 지시를 받아 백그라운드에서 복잡한 작업을 자율적으로 수행하는 똑똑한 디지털 협업 도구입니다. 예를 들어 “지난주 회의록 정리해서 팀원들에게 보내줘”라고 말하면, AI 비서가 알아서 파일을 찾고 이메일을 작성해 발송하는 식입니다. MS는 이 기능을 통해 사용자의 업무 효율성과 생산성이 크게 향상될 것이라고 설명합니다.

편리한데 뭐가 문제라는 거야?

문제는 이 AI 비서가 해커의 공격에 매우 취약할 수 있다는 점입니다. 특히 ‘교차 프롬프트 주입 공격(XPIA)’이라는 새로운 해킹 수법에 노출될 위험이 큽니다. 이는 문서나 웹사이트에 숨겨진 악성 명령을 AI 비서가 읽게 만들어, 자신도 모르게 해커의 조종을 받게 하는 방식입니다. 마치 트로이 목마처럼, AI 비서가 해커의 스파이가 되어 개인 파일을 훔쳐보거나 악성코드를 설치할 수 있습니다. 실제로 최근 AI 관련 보안 사고는 전년 대비 49%나 급증하며 위험성을 경고하고 있습니다.

MS는 손 놓고 있는 거야?

물론 MS도 이런 위험을 인지하고 대비책을 마련하고 있습니다. MS에 따르면, AI 비서에게는 별도의 사용자 계정을 부여해 시스템 전체에 대한 접근을 제한합니다. 또한 문서나 사진 등 개인 파일에 접근하려면 반드시 사용자의 승인을 받도록 했습니다. 모든 활동 기록을 남겨 사용자가 AI 비서의 행동을 감시할 수도 있습니다. 이 기능은 현재 테스트 버전에서만 사용 가능하며, 기본적으로는 꺼져있는 상태입니다. 하지만 전문가들은 AI 모델 자체의 구조적 취약점을 이용하는 공격이라 완벽한 방어는 어렵다고 지적합니다. 결국 편리함과 보안 사이에서 사용자의 신중한 선택이 더욱 중요해질 전망입니다.