기술/연구

“AI 뇌를 녹여라?” 개발자들이 데이터에 독 푼 충격 이유

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.12 18:33

기사 3줄 요약

1 AI 망가뜨리는 데이터 오염 운동 확산
2 잘못된 정보 학습시켜 지능 저하 유도
3 규제 실패에 맞선 내부자들의 극단 선택

최근 AI(인공지능) 업계 내부에서 믿기 힘든 충격적인 움직임이 포착되었습니다. AI를 개발하는 기술자들이 오히려 AI를 무너뜨리기 위해 뭉쳤다는 소식입니다. 이들은 AI의 지능을 떨어뜨리기 위해 ‘데이터 중독’이라는 극단적인 방법을 선택했습니다. 마치 사람에게 상한 음식을 먹여 탈이 나게 하듯, AI에게 오염된 데이터를 학습시켜 ‘바보’로 만들겠다는 것입니다. 이 프로젝트의 이름은 ‘포이즌 파운틴(Poison Fountain)’입니다. 더 레지스터에 따르면, 이들은 웹사이트 운영자들에게 AI가 학습할 데이터에 고의로 오류를 심어달라고 요청하고 있습니다.

“정확한 정보 대신 ‘독’을 섞어라”

AI는 인터넷에 있는 수많은 정보를 읽어들이는 ‘크롤러’라는 로봇을 통해 학습합니다. 이때 데이터가 정확할수록 AI는 똑똑해지지만, 반대로 잘못된 정보가 섞이면 성능이 뚝 떨어집니다. 포이즌 파운틴 프로젝트는 바로 이 점을 노렸습니다. 이들은 미묘한 논리 오류나 버그가 포함된 코드를 AI가 학습하도록 유도합니다. 심지어 ‘사일런트 브랜딩’이라는 공격 방식도 등장했습니다. 이는 이미지 데이터에 특정 브랜드 로고를 몰래 숨겨놓는 방법입니다. 이렇게 하면 AI가 그림을 그릴 때 의도치 않게 특정 상표를 계속 노출하게 되어, 결과물의 가치를 망가뜨릴 수 있습니다.

“규제는 이미 늦었다” 내부자들의 반란

도대체 왜, AI 기술의 최전선에 있는 사람들이 이런 일을 벌이는 걸까요? 이들은 현재의 법적 규제로는 AI의 위험한 질주를 막을 수 없다고 판단했습니다. 제보자에 따르면, 이 프로젝트에는 미국의 대형 기술 기업 직원들도 포함되어 있다고 합니다. 이들은 “기계 지능은 인류에게 위협이 될 수 있다”는 제프리 힌턴 교수의 경고에 동의합니다. 이미 AI 기술이 전 세계에 퍼진 상황에서 법으로 막는 것은 불가능하니, 물리적으로 기술을 무력화시키는 ‘무기’를 만들겠다는 논리입니다. 앤트로픽의 연구 결과에 따르면, 아주 적은 양의 악성 문서만으로도 AI 모델의 품질을 심각하게 떨어뜨릴 수 있다고 합니다.

AI 스스로 무너지는 ‘모델 붕괴’ 올까

이러한 데이터 오염 공격은 AI 모델의 ‘인지적 무결성’을 훼손합니다. 쉽게 말해, AI가 무엇이 진실이고 무엇이 거짓인지 구별하지 못하게 만드는 것입니다. 일부 전문가들은 AI가 이미 ‘모델 붕괴’ 단계에 접어들었다고 경고합니다. AI가 만든 엉터리 정보(AI 슬롭)를 다시 AI가 학습하면서 오류가 눈덩이처럼 불어나는 악순환입니다. 뉴스가드 보고서에 따르면, AI가 러시아의 허위 정보를 사실인 것처럼 학습하는 사례도 발견되었습니다. 이는 우리가 믿고 쓰는 AI가 언젠가 거짓말쟁이가 될 수도 있다는 뜻입니다. 결국 이번 사태는 기술의 발전 속도를 사회적 제도가 따라가지 못해 발생한 비극적인 충돌입니다. AI의 폭주를 막으려는 ‘데이터 중독’ 시도가 과연 인류를 구하는 약이 될지, 아니면 기술 생태계를 파괴하는 독이 될지 지켜봐야 할 시점입니다.