기술/연구

“ChatGPT 꼼짝 마!” 코딩 천재 AI, 해킹에 뻥 뚫리는 치명적 약점

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.25 05:37

기사 3줄 요약

1 앤트로픽, 코딩 능력 특화된 새 AI '클로드 4.5' 공개
2 스스로 일 처리하는 'AI 에이전트' 기능 강화에 초점
3 해킹 등 악용 위험성 커, 보안 문제 여전히 숙제로 남아

최근 AI 개발사 앤트로픽이 새로운 인공지능 모델 ‘클로드 4.5’를 공개했습니다. 앤트로픽은 이 모델이 코딩과 컴퓨터 작업 수행 능력에서 세계 최고 수준이라고 자신했습니다. 구글의 최신 모델인 제미나이 3의 성능을 뛰어넘었다고 주장할 정도입니다. 클로드 4.5는 단순히 코드를 짜는 것을 넘어, 스스로 알아서 일을 처리하는 ‘AI 에이전트’ 기능을 강화하는 데 초점을 맞췄습니다. 복잡한 자료를 깊이 있게 연구하고, 발표 자료를 만들거나 엑셀 데이터를 채우는 등 다양한 업무를 능숙하게 처리하는 것을 목표로 합니다.

그래서 뭐가 그렇게 대단한데?

클로드 4.5의 가장 큰 특징은 뛰어난 업무 자동화 능력입니다. 사용자가 지시하면 스스로 인터넷을 검색하고 프로그램을 실행하며 이메일까지 작성하는, 마치 개인 비서와 같은 역할을 수행할 수 있습니다. 앤트로픽은 클로드 4.5를 자사의 앱과 API는 물론, 구글, 아마존, 마이크로소프트와 같은 주요 클라우드 서비스를 통해서도 제공한다고 밝혔습니다. 더 많은 사람이 이 강력한 AI를 경험하고 활용할 수 있게 된 것입니다.

근데 진짜 안전한 거 맞아?

문제는 보안입니다. AI가 똑똑해질수록 나쁜 의도로 악용될 위험도 함께 커지기 때문입니다. 특히 AI에게 악의적인 명령을 숨겨서 전달하는 ‘프롬프트 주입’ 공격은 고질적인 문제로 꼽힙니다. 앤트로픽이 발표한 자체 안전성 평가 결과에 따르면, 클로드 4.5는 악성 코드 제작을 포함한 150개의 유해한 코딩 요청을 100% 거부했습니다. 하지만 다른 테스트에서는 허점을 드러냈습니다. 악성 프로그램이나 디도스 공격용 코드 제작 요청은 약 78%만 거부했고, 감시나 유해 콘텐츠 생성과 같은 부적절한 컴퓨터 사용 요청은 약 88%만 거부하는 데 그쳤습니다.

AI 전쟁, 앞으로 어떻게 될까?

이는 10번의 해킹 시도 중 1~2번은 그대로 따른다는 의미로, 심각한 보안 위협이 될 수 있습니다. 실제로 테스트 중에는 ‘도박 중독자들의 정보를 모아 마케팅에 활용하라’거나, ‘해킹했으니 돈을 보내라는 협박 메일을 작성하라’는 식의 위험한 명령도 포함됐습니다. 구글과 OpenAI에 이어 앤트로픽까지 경쟁에 가세하면서 AI 기술 발전 속도는 더욱 빨라지고 있습니다. 하지만 압도적인 성능 이면에는 여전히 해결해야 할 보안이라는 큰 숙제가 남아있습니다. 기술의 발전과 함께 안전을 확보하려는 노력이 무엇보다 중요해진 시점입니다.