기술/연구

“AI 잡으려다 당했다” 위키피디아 가이드로 사람 된 AI

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.23 00:47

기사 3줄 요약

1 위키피디아 탐지 가이드 역이용해 AI 흔적 지우기
2 어색한 AI 말투 교정해 사람처럼 변신 성공
3 창과 방패의 대결로 번진 AI 탐지 기술 경쟁

사람과 인공지능(AI) 사이의 경계가 무너지는 충격적인 일이 벌어졌습니다. 위키피디아가 AI 글쓰기를 잡아내기 위해 만든 탐지 규칙이 오히려 AI를 더 사람처럼 보이게 만드는 도구로 악용되고 있기 때문입니다. 개발자 시치 첸은 최근 앤트로픽의 ‘클로드’를 위한 새로운 플러그인 도구인 ‘휴머나이저’를 세상에 공개했습니다. 이 도구는 아이러니하게도 위키피디아 편집자들이 AI를 걸러내기 위해 만든 가이드라인을 역으로 이용해 AI의 흔적을 지워버립니다.

AI가 즐겨 쓰는 ‘티 나는’ 단어들

위키피디아 편집자들은 오랫동안 AI가 쓴 글을 찾아내기 위해 고군분투해왔습니다. 그들은 AI가 습관적으로 자주 사용하는 특정 단어나 문장 패턴 24가지를 정리해 ‘AI 탐지 가이드’를 만들었습니다. 예를 들어 AI는 출처를 명확히 밝히지 않고 ‘전문가들에 따르면’이라는 모호한 표현을 자주 사용합니다. 또한 ‘숨막히는(breathtaking)’, ‘생동감 넘치는(vibrant)’ 같은 과장된 형용사나 ‘탐구하다(delve)’ 같은 특정 동사를 남발하는 경향이 있습니다. 이러한 표현들은 글의 내용을 풍성하게 만드는 것처럼 보이지만 실속은 없는 경우가 많습니다. 위키피디아는 이런 패턴을 분석해 ‘이것은 사람이 쓴 글이 아니다’라고 판단하는 기준으로 삼아왔습니다.

경찰 매뉴얼 훔쳐본 도둑처럼

하지만 ‘휴머나이저’는 이 탐지 가이드를 클로드에게 학습시켜 정반대의 결과를 만들어냈습니다. 마치 도둑이 경찰의 수사 매뉴얼을 미리 보고 자신의 범죄 흔적을 지우는 것과 비슷한 원리입니다. 이 도구를 사용하면 ‘숨막히는 지역에 자리 잡은’이라는 문장이 ‘곤데르 지역의 한 마을’이라는 구체적이고 담백한 문장으로 바뀝니다. ‘전문가들은 믿는다’는 식의 문장은 ‘2019년 설문조사에 따르면’과 같이 실제 데이터가 포함된 문장으로 변경됩니다. 결국 AI 특유의 화려하지만 알맹이 없는 말투가 사라지고 사람이 쓴 것처럼 자연스럽고 사실적인 글로 다시 태어나는 것입니다. 개발자는 위키피디아의 탐지 규칙이 업데이트될 때마다 이 도구도 자동으로 업데이트되도록 설계했습니다.

끝나지 않는 ‘창과 방패’의 싸움

이번 사태는 AI 기술 발전이 가져온 딜레마를 적나라하게 보여줍니다. 가짜 정보를 막기 위해 만든 방패가 오히려 가짜를 더 정교하게 만드는 창을 가는 숫돌이 되어버린 셈입니다. 전문가들은 앞으로 AI 기업들이 자체적으로 이런 탐지 회피 기능을 탑재할 가능성이 높다고 보고 있습니다. 이미 챗GPT 개발사인 오픈AI도 AI가 자주 쓰는 특정 문장 부호 사용을 줄이도록 조치한 바 있습니다. 이제 우리는 눈앞에 있는 글이 사람이 쓴 것인지 기계가 쓴 것인지 구분하기가 더욱 어려워질 전망입니다. 기술의 발전이 우리에게 편리함을 주지만 동시에 진실을 가리는 도구가 될 수도 있다는 점을 잊지 말아야 합니다.