기술/연구

“논문 출처가 가짜?” 세계 1위 AI 학회, 조작 논란에 ‘발칵’

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.22 06:32

기사 3줄 요약

1 세계 최고 AI 학회 논문서 가짜 출처 다수 발견
2 연구자들이 AI 맹신해 기본 검증조차 소홀히 해
3 전문가도 속는 현실 속 정보 검증 중요성 커져

세계에서 가장 똑똑한 AI 전문가들이 모이는 곳에서 믿기 힘든 일이 벌어졌습니다. 최고의 권위를 자랑하는 AI 학회 ‘뉴립스(NeurIPS)’에 제출된 논문들 속에서 AI가 지어낸 ‘가짜 출처’가 무더기로 발견된 것입니다. AI가 거짓말을 하는 환각 현상이 이제는 학계의 심장부까지 침투했다는 사실에 많은 이들이 경악하고 있습니다. 도대체 전문가들은 왜 이런 실수를 저질렀을까요?

믿었던 도끼에 발등 찍힌 격

AI 탐지 스타트업인 GPTZero(지피티제로)에 따르면, 지난달 열린 뉴립스 학회에 채택된 논문 4,841편을 전수 조사한 결과 충격적인 사실이 드러났습니다. 무려 51편의 논문에서 실존하지 않는 가짜 인용(출처) 100여 개가 발견된 것입니다. 이 논문들은 세계적인 석학들과 연구자들이 작성한 결과물입니다. 그런데 정작 이들조차 논문을 쓸 때 AI를 사용했고, AI가 만들어낸 엉터리 정보를 제대로 검증하지 않았다는 사실이 밝혀진 셈입니다. 물론 전체 논문 수에 비하면 적은 비율이라고 주장할 수도 있습니다. 하지만 최고의 지성을 검증하는 자리에서조차 기본적인 사실 확인이 안 되었다는 점은 결코 가볍게 넘길 수 없는 문제입니다.

연구자들의 게으름인가, 시스템의 붕괴인가

논문에서 ‘인용’은 단순한 참고 자료 그 이상입니다. 연구의 신뢰도를 뒷받침하는 근거이자, 다른 연구자의 성과를 인정해 주는 학계의 ‘화폐’와도 같습니다. 그런데 AI가 아무렇게나 지어낸 가짜 논문을 출처로 달았다는 것은, 연구자가 원본을 읽어보지도 않았다는 뜻이 됩니다. 이는 연구 윤리의 기본을 저버린 행위라는 비판을 피하기 어렵습니다. 일각에서는 ‘제출 쓰나미’를 원인으로 지목하기도 합니다. AI 기술 발전으로 논문 생산 속도가 너무 빨라지면서, 검토 시스템이 이를 감당하지 못해 붕괴 직전에 이르렀다는 지적입니다.

AI 시대, 우리는 무엇을 믿어야 하나

이번 사건은 우리에게 시사하는 바가 큽니다. 세계 최고의 AI 전문가들조차 AI가 만든 오류를 걸러내지 못한다면, 일반인들은 더 큰 위험에 노출될 수밖에 없기 때문입니다. 우리가 인터넷에서 접하는 정보, 뉴스, 심지어 전문 자료까지 AI가 만든 허위 정보가 섞여 있을 가능성이 점점 커지고 있습니다. ‘설마 틀렸겠어?’ 하고 무심코 넘기는 순간, 우리는 가짜 정보의 피해자가 될 수 있습니다. 결국 기술이 발전할수록 인간의 비판적인 사고와 검증 능력이 더욱 중요해지고 있습니다. AI는 훌륭한 도구지만, 그 결과를 맹신하는 순간 도구의 주인이 아닌 노예가 될 수 있음을 명심해야 합니다.