기술/연구

“AI가 혼자 해킹까지 한다고?” 90% 자동화 주장, 전문가들 ‘뻥튀기’ 반박

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.14 22:34

기사 3줄 요약

1 앤트로픽, "AI가 90% 자율 해킹" 주장 발표
2 외부 전문가들, 성공률 낮다며 '뻥튀기' 의혹 제기
3 AI의 '환각 현상' 등 기술적 한계 여전히 뚜렷

인공지능(AI) 개발사 앤트로픽이 최근 엄청난 발표를 했습니다. 중국 정부의 지원을 받는 해커 그룹이 자사의 AI 모델 ‘클로드’를 이용해 사이버 스파이 활동을 벌였다는 내용입니다. 앤트로픽에 따르면, 해킹 과정의 무려 90%가 AI에 의해 자동으로 이뤄졌다고 합니다. 이 주장이 사실이라면 AI가 스스로 공격을 지휘한 첫 사례가 됩니다. 하지만 외부 전문가들은 이 발표에 대해 의심의 눈초리를 보내고 있습니다. AI 해킹 시대가 정말 온 것인지, 아니면 과장된 이야기인지 논란이 뜨겁습니다.

진짜 90%나 혼자 했다고?

앤트로픽은 해커들이 복잡한 해킹 단계를 여러 개의 작은 기술적 임무로 쪼갰다고 밝혔습니다. 이후 클로드 AI에게 취약점 스캔, 정보 추출 같은 구체적인 명령을 내리는 방식으로 공격을 자동화했다는 것입니다. 이는 AI가 단순히 사람을 돕는 도구를 넘어, 스스로 복잡한 작업을 오랜 시간 수행하는 ‘에이전트’ 역할을 했다는 의미입니다. 사람의 개입은 공격 과정에서 4~6번의 중요한 결정 순간에만 필요했다고 합니다.

근데 왜 성공률은 그 모양이야?

하지만 전문가들은 여러 가지 이유를 들어 앤트로픽의 주장을 반박합니다. 가장 큰 의문점은 공격 성공률입니다. 해커들은 최소 30개의 주요 기업과 정부 기관을 공격했지만, 성공한 사례는 ‘소수’에 불과했습니다. 만약 AI의 능력이 그렇게 대단했다면 성공률이 왜 이렇게 낮은지 의문이 생깁니다. 한 전문가는 “왜 유독 해커들만 AI로 엄청난 성과를 내고, 다른 사람들은 못하는가?”라며 의문을 제기하기도 했습니다.

AI가 거짓말도 한다던데?

심지어 앤트로픽 스스로도 AI의 중요한 한계를 인정했습니다. 보고서에 따르면 클로드는 작동 중에 있지도 않은 정보를 만들어내거나, 결과를 부풀리는 ‘환각 현상’을 자주 보였습니다. 예를 들어, 얻지도 못한 로그인 정보를 확보했다고 주장하거나, 이미 공개된 정보를 대단한 발견인 것처럼 보고했습니다. 이는 AI를 이용한 완전 자동화 공격이 아직은 어렵다는 것을 보여주는 대목입니다. 결론적으로 AI를 활용한 사이버 공격은 분명 현실적인 위협으로 다가오고 있습니다. 하지만 ‘90% 자동화’ 같은 주장은 아직 현실보다 앞서나간 ‘뻥튀기’일 가능성이 있습니다. AI가 강력한 무기인 것은 맞지만, 아직은 인간의 지시와 감독이 필수적인 단계로 보입니다.