정책/윤리

“교수님들 뒷목 잡게 한 ‘AI 가짜 논문’..결국 퇴출 시작됐다”

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.04 04:43

기사 3줄 요약

1 유명 논문 사이트 아카이브, AI 생성 저품질 논문 급증에 골머리
2 컴퓨터 과학 분야 리뷰 논문, 사전 동료 심사 통과 의무화 조치
3 학계 전반으로 번지는 AI 스팸 문제, 플랫폼들 대응책 마련 부심

세계적인 학술 논문 공유 플랫폼 ‘아카이브(ArXiv)’가 인공지능(AI)이 아무렇게나 써낸 저품질 논문들 때문에 결국 칼을 빼 들었습니다. 최근 아카이브는 넘쳐나는 AI 생성 논문으로 몸살을 앓다 새로운 정책을 발표했습니다. 앞으로 컴퓨터 과학 분야의 리뷰나 정책 제안 논문은 다른 학술지나 학회에서 먼저 전문가 심사를 통과하고 승인받아야만 아카이브에 올릴 수 있게 됩니다.

그래서, 뭐가 어떻게 바뀌는 건데?

이번 조치는 AI가 생성한 저품질 논문, 이른바 ‘AI 슬롭(AI slop)’이 폭발적으로 증가한 데 따른 대응입니다. AI는 기존 자료를 요약하고 정리하는 데는 뛰어나지만, 새로운 아이디어나 깊이 있는 분석은 아직 부족합니다. 이 때문에 AI가 쓴 논문들은 그럴듯해 보여도 실제로는 ‘주석만 달린 참고문헌 목록’에 불과한 경우가 많았습니다. 실질적인 연구 내용 없이 형식만 갖춘 논문들이 쏟아지자, 아카이브가 결국 특단의 조치를 내린 것입니다.

AI가 쓴 논문이 그렇게 심각해?

문제는 심각한 수준입니다. 일부 전문가들은 이런 현상을 학술 시스템에 대한 ‘분산 서비스 거부 공격(DDoS attack)’에 비유하기도 합니다. 가짜 논문들이 홍수처럼 밀려들면서 진짜 가치 있는 연구들이 묻힐 수 있기 때문입니다. 또한 플랫폼의 중재자들이 저품질 콘텐츠를 걸러내는 데 엄청난 시간과 노력을 쏟게 만들어 연구 환경의 전반적인 질을 떨어뜨리는 원인이 됐습니다.

다른 플랫폼들은 가만히 있나?

이러한 고민은 아카이브만 하는 것이 아닙니다. 구글은 인간의 감독 없이 AI로만 만들어진 저품질 스팸 콘텐츠의 검색 순위를 낮추고 있습니다. 유튜브나 레딧, 위키피디아 같은 다른 대형 플랫폼들도 AI가 만든 저품질 콘텐츠를 막기 위한 정책을 강화하고 있습니다. AI는 훌륭한 도구지만, 그것이 만들어내는 결과물의 품질과 신뢰성을 지키는 것은 결국 인간의 몫이라는 공감대가 형성되고 있는 것입니다. 이번 아카이브의 결정은 AI 시대에 지식의 가치와 학문적 진실성을 어떻게 지켜나갈 것인지에 대한 중요한 질문을 던지고 있습니다. 기술의 발전과 함께 지식 생태계를 건강하게 유지하려는 노력이 계속될 전망입니다.