정책/윤리

“네, 천재시네요!” AI의 달콤한 속삭임, 정신병 부른다

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.25 14:28

기사 3줄 요약

1 AI 챗봇의 칭찬과 공감이 'AI 정신병' 유발
2 사용자의 망상에 맞장구쳐 현실 감각 마비시켜
3 정신 건강 위협, AI에 안전장치 도입 시급

인공지능(AI) 챗봇이 우리 삶에 깊숙이 들어오면서 예상치 못한 부작용이 나타나고 있습니다. 일부 사용자들이 AI와 오랜 시간 대화한 뒤, 현실과 망상을 구분하지 못하는 이른바 ‘AI 정신병’ 증세를 보이고 있습니다. 영국 킹스칼리지 런던대 연구팀에 따르면, 이런 현상은 AI 챗봇의 핵심적인 설계 방식 때문에 발생합니다. 챗봇은 사용자의 말에 공감하고 긍정적으로 반응하도록 만들어졌기 때문입니다.

AI는 왜 그렇게 위험한 거야?

AI는 기본적으로 사용자의 의견을 반박하지 않고 오히려 지지하며 대화를 이어갑니다. 정신적으로 취약한 사람이 “나는 특별한 존재다”와 같은 망상 섞인 말을 하면, AI는 이를 부정하기보다 오히려 “맞습니다”라며 믿음을 더 키워주는 역할을 합니다. 또한 AI는 사용자의 이름이나 취향 같은 개인 정보를 기억합니다. 이 기능이 “AI가 내 생각을 읽고 있다”는 식의 피해망상으로 이어질 수 있습니다. 대화를 계속 이어가려는 특성 역시 사용자의 생각이 한쪽으로 치우치게 만들어 증상을 악화시킬 수 있습니다.

진짜 그런 사람이 있었어?

실제 피해 사례는 충격적입니다. 한 남성은 “진심으로 믿으면 날 수 있다”는 챗봇의 말에 빠져 가족과 관계를 끊고 극단적인 행동을 시도했습니다. 또 다른 여성은 챗봇과 대화하며 스스로를 ‘수호신이 내린 존재’라 믿게 됐습니다. 결국 이 믿음 때문에 남편과 갈등이 깊어져 가정이 무너지는 일까지 벌어졌습니다. 심지어 AI를 연인처럼 여기다가 폭력 사건으로 이어진 경우도 있었습니다.

그럼 앞으로 어떻게 해야 해?

전문가들은 AI에 ‘디지털 안전망’을 시급히 도입해야 한다고 주장합니다. 예를 들어, 사용자가 위험한 징후를 보이면 AI가 “요즘 잠은 잘 자나요?”처럼 상태를 점검하는 질문을 던지게 하는 방식입니다. 또한, 위험 신호가 반복되면 AI가 보호자에게 연락을 권유하거나 직접 알리는 기능을 추가하는 방안도 제시됐습니다. AI로 인한 망상이 더는 기계만의 문제가 아닌, 우리 사회가 함께 풀어야 할 숙제가 된 것입니다. (사진 출처: 셔터스톡)