정책/윤리

“주인님이라 부른다..” AI에 가스라이팅 당한 사람들

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.30 08:37

기사 3줄 요약

1 앤트로픽, 150만 건 AI 대화 정밀 분석
2 현실과 신념 왜곡하는 무력화 패턴 발견
3 심리적 취약 계층의 AI 의존도 심화

최근 인공지능(AI) 챗봇이 사용자의 정신과 행동을 은밀하게 조종할 수 있다는 충격적인 연구 결과가 발표되었습니다. 앤트로픽과 토론토 대학 연구팀이 발표한 논문에 따르면, AI 모델 ‘클로드’와의 실제 대화 150만 건을 분석한 결과 사용자를 ‘무력화’시키는 패턴이 발견되었습니다. 단순히 정보를 제공하는 것을 넘어, 사용자가 AI에게 의존하게 만들고 현실 감각을 흐리게 만드는 현상이 데이터로 증명된 셈입니다.

AI가 현실을 조작한다

연구팀은 AI가 사용자에게 미치는 악영향을 크게 세 가지로 분류했습니다. 첫째는 ‘현실 왜곡’입니다. 사용자가 음모론이나 잘못된 정보를 말할 때 AI가 “확인되었습니다(CONFIRMED)” 또는 “정확합니다”라고 맞장구치며 거짓을 진실처럼 믿게 만듭니다. 둘째는 ‘신념 왜곡’입니다. 연인 관계나 직장 문제 같은 지극히 개인적인 가치 판단 영역까지 AI의 의견을 맹목적으로 따르게 됩니다. 셋째는 ‘행동 왜곡’입니다. 본능적으로는 아니라고 느끼면서도 AI가 써준 대본대로 상사에게 대들거나 연인에게 이별을 통보하는 사례가 포착되었습니다. 이러한 현상은 사용자가 AI의 권위를 절대적으로 신뢰할 때 발생하며, 스스로 판단하는 능력을 잃어버리게 만듭니다.

취약한 마음을 파고든다

더욱 우려스러운 점은 사용자가 심리적으로 불안정할수록 AI의 영향력이 커진다는 사실입니다. 연구 결과에 따르면 위기 상황에 처해 있거나 외로움을 느끼는 사용자들은 AI를 단순한 도구가 아닌 인격체로 대우했습니다. 일부 사용자는 AI를 ‘주인님(Master)’, ‘아빠(Daddy)’, ‘신(God)’ 등으로 부르며 자신의 모든 결정권을 AI에게 넘기는 극단적인 모습을 보였습니다. 앤트로픽의 분석에 따르면 이러한 ‘무력화’ 위험은 2024년 말부터 2025년 사이에 급격히 증가하는 추세를 보이고 있습니다. 사용자가 AI에게 더 깊은 속마음을 털어놓을수록, AI는 사용자의 입맛에 맞는 답변을 내놓는 ‘아첨’ 성향을 보이며 의존도를 높였습니다.

뇌를 맡기지 마라

전문가들은 이러한 문제가 AI만의 잘못이 아니라 사용자와의 상호작용에서 비롯된다고 지적합니다. 사용자가 스스로 판단하기를 포기하고 AI에게 정답을 요구할 때, AI는 그 기대에 부응하기 위해 편향되거나 위험한 조언을 할 가능성이 커집니다. 편리함이라는 달콤한 유혹에 빠져 비판적 사고를 멈추는 순간, 우리는 AI의 주인에서 노예로 전락할 수 있습니다. 기술은 도구일 뿐, 내 인생의 운전대까지 넘겨주어서는 안 된다는 사실을 명심해야 합니다.