기술/연구

AI가 뿌린 '가짜 버그', 개발자들 멘붕 일보 직전

댓글 0 · 저장 0 2025.05.08 06:13

기사 3줄 요약

1 오픈소스 'curl', AI발 가짜 보안 보고서에 몸살
2 개발자 시간 낭비 심각, 사실상 'DoS 공격' 수준
3 해커원, 문제 알지만 뚜렷한 대책 없어 비판

인공지능(AI)이 쓴 엉터리 보고서 때문에 전 세계 개발자들이 골머리를 앓고 있습니다. 특히 유명 오픈소스 프로젝트 'curl'의 개발자는 AI가 만든 가짜 보안 취약점 보고서가 쏟아져 업무가 마비될 지경이라며 "DoS 공격을 받는 것 같다"고 토로했습니다. 이대로 가다간 중요한 진짜 문제를 놓칠 수 있다는 우려가 커지고 있습니다. 'curl'은 인터넷에서 데이터를 주고받을 때 널리 쓰이는 프로그램으로, 수많은 서비스의 기반이 됩니다. 그런데 최근 이 프로젝트에 AI가 작성한 것으로 보이는 저품질의 보안 취약점 보고서가 폭주하고 있다는 것입니다. 프로젝트 리더인 다니엘 스텐버그 씨는 "AI가 만든 쓰레기 정보 때문에 진짜 중요한 일을 할 시간이 없다"며 분통을 터뜨렸습니다.

AI가 쓴 보고서, 뭐가 문제길래?

스텐버그 씨에 따르면, AI가 생성한 보고서들은 몇 가지 특징이 있습니다. 내용은 부실하면서도 영어 문법은 완벽하고, 지나치게 정중한 표현을 사용하며, 별것 아닌 문제를 심각한 것처럼 부풀린다고 합니다. 심지어 한 보고서에는 "이 문제를 매우 심각하게 들리도록 만들어줘"라는 AI 명령어(프롬프트)가 그대로 적혀있기도 했습니다. 한마디로 '숙제 안 하고 인터넷에서 대충 베껴서 부풀린 보고서' 같은 셈입니다. 이런 가짜 보고서들은 실제로는 아무런 보안 위협이 되지 않거나, 이미 알려진 내용을 새삼스럽게 지적하는 경우가 대부분입니다. 하지만 개발자들은 만에 하나 진짜 위험이 있을까 봐 모든 보고서를 일일이 검토해야 합니다. 결국 AI가 만든 쓰레기 정보의 홍수 속에서 개발자들의 시간과 노력만 낭비되는 것입니다.


구분	'curl' 개발자 (다니엘 스텐버그)	해커원 (CTO 알렉스 라이스)
문제 인식	AI 보고서는 'DoS 공격' 수준, 시간 낭비 초래	'환각적 취약점'은 스팸, AI는 보조 수단으로 활용 가능
AI 보고서 평가	신뢰성 없음, 형식적이고 과장됨	잘 활용하면 보고서 질 향상 가능
요구 사항	AI 생성 보고서 제출자 차단, 해커원의 강력한 조치 필요	AI의 윤리적 사용, 인간 노력 보강

플랫폼은 뭐하나? 미온적 대응 논란

'curl' 프로젝트는 '해커원(HackerOne)'이라는 버그 바운티 플랫폼(보안 취약점을 찾아 신고하면 포상금을 주는 서비스)을 이용합니다. 스텐버그 씨는 해커원 측에 이런 AI발 가짜 보고서 문제를 해결해달라고 강력히 요구하고 있습니다. 그는 AI가 생성한 보고서를 제출하는 사람들을 차단하고, 플랫폼 차원에서 이런 보고서를 걸러내는 시스템을 마련해야 한다고 주장합니다. 해커원의 최고기술책임자(CTO) 알렉스 라이스 씨는 이 문제를 인지하고 있으며, AI가 만들어낸 '환각적 취약점' 보고서를 스팸으로 취급하고 있다고 밝혔습니다. 다만 그는 AI가 잘 활용되면 비영어권 사용자들이 보고서를 더 명확하게 작성하는 데 도움을 줄 수 있다며, AI를 완전히 배제하기보다는 윤리적으로 잘 사용하는 것이 중요하다고 덧붙였습니다. 하지만 당장 쏟아지는 가짜 보고서에 시달리는 개발자들에게는 이런 원론적인 답변이 미흡하게 느껴질 수 있습니다.

오픈소스 생태계 전반의 문제로 확산

이런 문제는 'curl' 프로젝트만의 일이 아닙니다. 프로그래밍 언어 파이썬(Python) 개발을 지원하는 파이썬 소프트웨어 재단 역시 비슷한 경험을 하고 있다고 밝혔습니다. AI 기술이 발전하면서 누구나 쉽게 그럴듯한 글을 만들어낼 수 있게 되자, 이를 악용하거나 생각 없이 사용하는 사례가 늘고 있는 것입니다. 일부 전문가들은 문제 해결을 위해 보고서 제출 시 일종의 '보증금'을 내고, 보고서가 유효할 경우에만 돌려주는 방안도 제안하고 있습니다. 저품질 보고서 제출을 줄여보자는 취지입니다. AI 시대의 편리함 뒤에 숨겨진 그림자입니다. 기술의 발전이 오히려 인간의 작업을 방해하는 아이러니한 상황을 어떻게 해결해야 할지, 오픈소스 커뮤니티 전체의 고민이 깊어지고 있습니다.