기술/연구

"AI가 소설 썼다" 위키백과 번역, 없는 출처 조작 논란

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.03.05 02:27

기사 3줄 요약

1 AI 번역 위키백과서 가짜 출처 대거 발견
2 편집자들 오류 계정 차단 등 강력 제재
3 정보 신뢰성 추락 우려에 인간 검증 강조

믿었던 위키백과에 발등 찍힐 일이 생겼습니다. 비영리 단체가 야심 차게 도입한 인공지능(AI) 번역 시스템이 심각한 오류를 일으키고 있습니다. 단순한 오역 수준이 아니라 아예 존재하지 않는 출처를 그럴싸하게 지어내는 이른바 '환각' 현상이 발견된 것입니다. 위키백과 편집자들은 즉각적인 대응에 나섰습니다. 정보의 정확성이 생명인 백과사전의 신뢰도가 뿌리째 흔들릴 위기에 처했습니다. 기술의 발전이 오히려 독이 된 이번 사태의 내막을 자세히 들여다보겠습니다.

이게 말이 돼? 없는 출처를 만들다니

최근 '오픈 날리지 어소시에이션(OKA)'이라는 비영리 단체가 위키백과 문서 확장을 위해 AI 번역기를 도입했습니다. 의도는 좋았으나 결과는 충격적이었습니다. 404 미디어의 보도에 따르면 AI가 번역한 문서들에서 황당한 오류들이 쏟아져 나왔습니다. 가장 심각한 문제는 '출처 조작'이었습니다. AI는 실제로는 존재하지 않는 책이나 논문을 마치 사실인 것처럼 출처로 달아놓았습니다. 문맥과 전혀 상관없는 엉뚱한 자료를 근거라며 제시하기도 했습니다. 심지어 내용을 마음대로 꾸며내어 사실관계를 완전히 왜곡하는 경우도 빈번했습니다. 이는 생성형 AI가 가진 고질적인 문제인 '환각(Hallucination)' 현상이 지식 정보 시스템에 치명적인 독이 될 수 있음을 보여줍니다.

참다 못한 편집자들, 결국 칼 빼들었다

위키백과 커뮤니티는 발칵 뒤집혔습니다. 정확한 근거와 출처를 가장 중요하게 여기는 위키백과에서 이런 조작된 정보는 용납될 수 없는 일입니다. 편집자들은 즉시 OKA의 번역 프로젝트에 제동을 걸었습니다. 오류가 발견된 번역물을 올린 계정들에 대해 활동 제한 조치를 내리기 시작했습니다. 특히 반복적으로 잘못된 정보를 올리는 번역 계정은 가차 없이 차단되고 있습니다. 편집자들은 AI가 생성한 내용을 인간이 꼼꼼하게 검수하지 않고 그대로 올리는 행위 자체가 위키백과의 신뢰성을 무너뜨린다고 비판했습니다. AI 도구 사용 자체를 금지하는 것은 아니지만, 결과물에 대한 책임은 인간에게 있다는 점을 분명히 했습니다.

정보의 바다냐, 가짜뉴스 공장이냐

이번 사건은 우리에게 시사하는 바가 매우 큽니다. AI 기술이 발전하면서 정보의 양은 폭발적으로 늘어나고 있습니다. 하지만 그 정보의 질과 정확성을 담보할 수 없다면 그것은 정보가 아니라 '디지털 쓰레기'에 불과합니다. 특히 누구나 믿고 보는 위키백과 같은 플랫폼이 오염된다면 사회적 혼란은 걷잡을 수 없을 것입니다. 앞으로 AI를 활용한 정보 생산은 더욱 늘어날 것입니다. 하지만 이번 사태는 AI를 맹신해서는 안 되며 반드시 인간의 교차 검증이 필요하다는 사실을 뼈저리게 느끼게 해줍니다. 편리함 뒤에 숨겨진 함정을 경계해야 합니다. 여러분이 지금 보고 있는 정보도 AI가 지어낸 소설일지 모릅니다. 돌다리도 두들겨 보고 건너듯, 정보의 출처를 한 번 더 확인하는 습관이 필요한 시점입니다.