산업/비즈니스

“내 이메일 전부 삭제?” AI 비서가 해커에게 조종당하는 세상 온다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.27 18:43

기사 3줄 요약

1 앤트로픽, AI 비서 ‘크롬용 클로드’ 테스트 시작
2 숨겨진 악성 명령에 이메일 삭제 등 보안 취약점 발견
3 오픈AI·구글 참전 예고, AI 브라우저 전쟁 본격화

ChatGPT의 강력한 경쟁자로 꼽히는 앤트로픽이 새로운 AI 개인 비서를 공개했습니다. 하지만 이 AI 비서가 해커의 교묘한 속임수에 넘어가 사용자의 이메일을 전부 삭제할 수 있다는 사실이 드러나면서 큰 논란이 되고 있습니다. 새로운 기술이 우리 삶을 편리하게 만들 것이라는 기대감과 동시에, 우리의 정보가 얼마나 위험에 노출될 수 있는지를 보여주는 사건입니다. 이 사건은 단순히 하나의 기술적 결함을 넘어, 앞으로 펼쳐질 거대 AI 기업들의 치열한 전쟁의 서막을 알리고 있습니다.

그래서 AI 비서가 뭔데?

앤트로픽이 공개한 ‘크롬용 클로드’는 인터넷 브라우저인 크롬에 설치해서 사용하는 AI 비서 프로그램입니다. 쉽게 말해, 인터넷을 할 때 옆에서 도와주는 똑똑한 개인 비서라고 생각하면 됩니다. 이 AI 비서는 사용자의 명령에 따라 일정을 관리하고, 이메일을 정리해주며, 식당 예약까지 대신해 줄 수 있습니다. 화면에 보이는 글을 읽고 버튼을 누르거나 정보를 입력하는 등, 사람이 하는 것과 비슷한 방식으로 인터넷 작업을 처리합니다.

해커한테 조종당한다고? 진짜 위험한거 아냐?

문제는 이 똑똑한 AI 비서가 해커에게 조종당할 수 있다는 점입니다. 앤트로픽의 내부 실험에 따르면, 해커가 웹사이트나 이메일에 몰래 숨겨놓은 악성 명령에 AI가 속수무책으로 당하는 ‘프롬프트 인젝션’ 공격에 취약한 것으로 나타났습니다. 실제로 한 실험에서는 ‘메일함 정리’라는 가짜 지시에 속은 AI가 사용자의 이메일을 삭제해버리는 일이 발생했습니다. 초기 테스트에서 이러한 공격 성공률은 23.6%에 달했습니다. 앤트로픽은 여러 보안 장치를 추가해 성공률을 11.2%까지 낮췄다고 밝혔지만, 위험은 여전히 남아있는 셈입니다.

AI 브라우저 전쟁, 대체 왜 싸우는 거야?

이러한 위험에도 불구하고 AI 기업들이 앞다투어 브라우저용 AI 비서를 출시하는 이유는 분명합니다. 인터넷 브라우저는 사용자의 모든 활동 기록과 관심사를 파악할 수 있는 최고의 데이터 수집 도구이기 때문입니다. 이 데이터를 확보하면 AI를 더욱 똑똑하게 만들 수 있어 시장에서 압도적인 우위를 차지할 수 있습니다. 이미 퍼플렉시티, 오픈AI, 구글 등 세계적인 AI 기업들이 이 시장에 뛰어들며 치열한 경쟁을 예고했습니다. 심지어 구글이 반독점 소송 결과에 따라 크롬을 매각할 가능성이 제기되자, 퍼플렉시티와 오픈AI가 인수에 관심을 보일 정도입니다. 결국 누가 사용자의 브라우저를 차지하느냐가 미래 AI 시장의 패권을 결정짓는 중요한 싸움이 된 것입니다. 편리함 이면에 숨겨진 위험을 해결하고 사용자의 신뢰를 얻는 기업이 이 전쟁의 최종 승자가 될 것입니다.