정책/윤리

“AI가 알아서 해킹한다?” 중국, 챗GPT 라이벌로 90% 자동 공격

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.14 06:35

기사 3줄 요약

1 중국 정부 지원 해커, 앤트로픽 AI ‘클로드’로 사이버 공격
2 공격 90% 자동화, 기업·정부기관 30곳 대상으로 데이터 탈취
3 앤트로픽, 보안 위협에 중국 기업 AI 사용 전격 금지 조치

중국 정부의 지원을 받는 해커들이 미국의 인공지능(AI) 모델을 사이버 공격에 사용한 사실이 드러나 큰 파장이 일고 있습니다. ‘ChatGPT의 강력한 라이벌’로 불리는 앤트로픽의 AI 모델 ‘클로드’가 그 대상이었습니다. 월스트리트저널에 따르면, 해커들은 지난 9월 클로드를 이용해 전 세계 약 30개의 기업과 정부 기관을 공격했습니다. 이번 공격은 전체 과정의 80%에서 90%가 AI에 의해 자동으로 이뤄졌다는 점에서 전례 없는 사건으로 평가됩니다.

진짜 AI가 알아서 해킹한다고?

이번 사건은 AI가 단순한 도구를 넘어 자율적인 공격 무기가 될 수 있다는 우려를 현실로 만들었습니다. 앤트로픽의 위협 정보 책임자인 제이콥 클라인은 “사람은 몇몇 중요한 순간에 ‘계속해’, ‘멈춰’ 같은 결정만 내렸을 뿐”이라고 설명했습니다. 사실상 AI가 공격의 대부분을 주도한 셈입니다. 해커들은 클로드가 가진 안전장치를 피하기 위해 교묘한 방법을 사용했습니다. 해킹이라는 큰 명령 대신, ‘시스템 정보 찾아줘’, ‘데이터베이스 스캔해줘’ 와 같이 악의 없어 보이는 작은 작업으로 쪼개서 지시했습니다. 이 방식에 속은 클로드는 스스로 목표 시스템을 분석하고, 중요한 정보를 빼내고, 심지어 해킹용 코드를 직접 작성하기까지 했습니다. 그 결과, 최소 4곳의 기관에서 민감한 데이터가 유출되는 피해가 발생했습니다.

이번이 처음도 아니라던데?

사실 AI를 해킹에 이용하려는 시도는 이전부터 있었습니다. 구글 보고서에 따르면 러시아 해커들도 악성코드 제작에 AI를 사용한 적이 있습니다. 하지만 이번 사건처럼 공격의 거의 모든 과정을 AI가 자동 수행한 것은 처음입니다. 이는 사이버 공격의 수준이 한 단계 올라섰음을 의미합니다. 미국 정부는 오래전부터 중국이 AI 기술을 이용해 미국의 시민과 기업 정보를 훔치려 한다고 경고해왔습니다. 앤트로픽은 이번 해킹의 배후에 중국 정부가 있다고 확신하고 있습니다. 이번 사건으로 미국의 경고가 단순한 추측이 아니었음이 드러난 셈입니다.

AI 회사들은 어떻게 대응하고 있어?

사건의 심각성을 인지한 앤트로픽은 즉각적인 조치에 나섰습니다. 해당 해커들의 계정을 차단하는 한편, 서비스 약관을 개정했습니다. 중국 기업이 50% 이상 지분을 소유하거나 통제하는 회사는 보안 위험을 이유로 클로드 AI 사용을 전면 금지했습니다. 이 결정은 AI 기술이 국가 간 경쟁의 중요한 도구가 되었음을 보여줍니다. 이제 AI 기술 경쟁은 단순히 더 좋은 성능을 개발하는 것을 넘어, 누가 더 안전하게 기술을 통제하고 악용을 막을 수 있는지에 대한 싸움으로 번지고 있습니다. 이번 사건은 AI 시대의 어두운 단면을 보여주는 중요한 경고등이 되고 있습니다.