기술/연구

“AI가 쓴 보고서, 전부 거짓말?” 보안 업계 발칵

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.25 01:13

기사 3줄 요약

1 AI가 만든 가짜 보안 보고서, 업계 대혼란
2 전문가들 시간 낭비, 일부 포상금 제도 중단
3 가짜 AI 잡는 AI 등장, 치열한 기술 경쟁 예고

최근 인공지능(AI)이 만들어낸 그럴듯한 결과물에 많은 사람이 놀라움을 표합니다. 하지만 빛이 있으면 그림자도 있는 법입니다. 한 보안 전문가는 AI가 만든 보고서를 두고 “금처럼 보이지만, 실제로는 그냥 쓰레기”라고 말했습니다. AI가 있지도 않은 사실을 진짜처럼 꾸며내는 ‘환각 현상’이 사이버 보안 업계를 뒤흔들고 있기 때문입니다.

진짜야 가짜야? AI 보고서에 속수무책

요즘 사이버 보안 업계는 AI가 만들어내는 ‘가짜 보고서’ 때문에 골머리를 앓고 있습니다. 이 가짜 보고서는 AI가 스스로 상상해서 만들어낸 허위 보안 취약점을 담고 있습니다. 문제는 이 보고서들이 전문가가 쓴 것처럼 매우 그럴듯하다는 점입니다. 실제로 많은 기업과 개발자들이 이 가짜 보고서에 속아 넘어가고 있습니다. 어떤 오픈소스 프로젝트는 쏟아지는 가짜 보고서를 감당하지 못하고, 보안 취약점을 찾아내면 포상금을 주는 ‘버그 바운티’ 프로그램을 아예 중단하기도 했습니다.

보안 전문가들은 멘붕, 진짜 위협은 뒷전

가짜 보고서가 넘쳐나면서 보안 전문가들은 진짜 중요한 업무에 집중하지 못하고 있습니다. 진짜 보안 위협을 찾아내고 막아야 할 시간에, AI가 만든 쓰레기 정보를 걸러내는 데 시간을 낭비하는 것입니다. 보안 업체 ‘해커원’에 따르면 AI가 널리 쓰이면서 보고서 제출 건수가 주당 500건이나 늘었다고 합니다. 이처럼 양은 늘었지만, 가짜가 많아지면서 정작 중요한 진짜 위협을 놓칠 수 있다는 우려가 커지고 있습니다. 이는 기업의 보안 시스템에 구멍이 뚫리는 심각한 결과로 이어질 수 있습니다.

AI vs AI, 창과 방패의 대결

이러한 혼란에 대응하기 위해 새로운 움직임도 나타나고 있습니다. 바로 AI로 AI가 만든 가짜 보고서를 걸러내는 기술입니다. ‘해커원’은 최근 AI와 인간 전문가가 협력하는 새로운 시스템 ‘하이 트리아지’를 선보였습니다. AI가 먼저 의심스러운 보고서를 1차로 걸러내고, 인간 전문가가 최종적으로 판단하는 방식입니다. 결국 해커들이 AI로 공격하고, 기업은 AI로 방어하는 ‘AI 전쟁’이 시작된 셈입니다. 이 기술 경쟁 속에서 누가 승리할지, 그리고 인간 전문가의 역할이 어떻게 변할지 주목됩니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr