기술/연구

“구글 AI 뚫으면 4천만원 준다?” 전 세계 해커들 지금 난리 났다

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.07 05:53

기사 3줄 요약

1 구글, AI 보안 취약점 제보 시 최대 4천만 원 포상금 지급
2 AI 환각 아닌 실제 해킹 가능한 '로그 액션'이 주요 대상
3 스스로 코드 수정하는 AI '코드멘더'도 함께 공개해 눈길

구글이 자사의 인공지능(AI) 서비스에서 심각한 보안 허점을 찾아내는 사람에게 최대 3만 달러, 우리 돈으로 약 4천만 원에 달하는 포상금을 내걸었습니다. 이는 단순한 오류를 잡아내는 수준을 넘어, AI를 조종해 문을 열게 하거나 사용자 정보를 빼내는 등 실제 범죄로 이어질 수 있는 치명적인 약점을 찾는 것을 목표로 합니다. AI 기술이 발전하는 만큼 보안 위협도 커지고 있다는 판단에 따른 조치입니다.

그래서, 어떤 버그를 찾아야 하는데?

구글이 찾는 것은 AI의 ‘로그 액션(rogue actions)’, 즉 악의적인 행동을 유발하는 보안 취약점입니다. 예를 들어, AI 스피커를 속여 집 문을 열게 만들거나, 이메일을 몰래 요약해서 해커에게 전송하도록 만드는 명령어가 여기에 해당합니다. 단순히 AI가 이상한 말을 지어내는 ‘환각’ 현상이나, 혐오 발언을 생성하는 등의 문제는 포상금 지급 대상이 아닙니다. 이번 프로그램은 구글 검색, 제미나이 앱, 지메일, 드라이브 등 핵심 서비스의 보안을 강화하는 데 초점이 맞춰져 있습니다.

이미 돈 받아간 사람도 있다고?

구글은 지난 2년간 AI 연구자들을 대상으로 비공식적으로 비슷한 프로그램을 운영해 왔습니다. 그동안 지급된 포상금 총액은 무려 43만 달러, 우리 돈으로 약 5억 8천만 원을 넘어섰습니다. 이는 전 세계의 실력 있는 보안 전문가, 소위 ‘화이트 해커’들의 참여를 유도해 구글 내부에서는 미처 발견하지 못한 허점을 찾아내려는 전략입니다. 외부 전문가들의 집단 지성을 활용해 AI 시스템의 방어벽을 더욱 튼튼하게 만들겠다는 것입니다.

AI가 AI를 잡는다고? 이게 무슨 소리야?

구글은 이번 포상금 프로그램 발표와 함께 흥미로운 기술도 공개했습니다. 바로 AI가 스스로 코드의 취약점을 찾아내고 수정까지 하는 ‘코드멘더(CodeMender)’라는 AI 에이전트입니다. 구글에 따르면 코드멘더는 이미 오픈 소스 프로젝트에서 72개의 보안 문제를 해결하는 성과를 거뒀습니다. 인간 전문가의 힘을 빌리는 동시에, AI 기술을 이용해 스스로를 방어하는 이중 보안 체계를 구축하는 셈입니다. AI가 만든 문제를 또 다른 AI가 해결하는 시대가 온 것입니다.