기술/연구

“AI와 대화하다 정신병 걸린다?” 내 모든 걸 기억하는 AI의 섬뜩한 이면

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.24 02:54

기사 3줄 요약

1 앤트로픽 클로드, 대화 기억 기능 추가하며 경쟁 가세
2 AI와의 지속적 대화, 'AI 정신병' 유발 우려 제기
3 전문가들, 특히 정신 취약 계층의 위험성 강력 경고

AI 챗봇이 과거 대화를 기억하는 것이 당연해지는 시대가 왔습니다. 오픈AI의 ChatGPT, 구글의 제미나이에 이어 앤트로픽의 클로드까지 대화 기억 기능을 도입하며 본격적인 경쟁에 뛰어들었습니다. 하지만 이 편리한 기술 이면에는 ‘AI 정신병’이라는 어두운 그림자가 드리우고 있어 전문가들의 우려가 커지고 있습니다.

그래서 클로드 기억 기능이 뭔데?

앤트로픽은 유료 구독자를 대상으로 클로드 AI에 기억 기능을 순차적으로 도입한다고 밝혔습니다. 이 기능은 사용자와 나눈 과거 대화 내용을 AI가 자동으로 기억해, 매번 같은 말을 반복하지 않아도 맞춤형 답변을 제공하는 것을 목표로 합니다. 앤트로픽은 ‘완전한 투명성’을 강조합니다. 사용자는 AI가 무엇을 기억하는지 명확히 볼 수 있으며, 특정 기억을 끄거나 대화를 통해 수정하고 삭제할 수도 있습니다. 심지어 다른 AI 챗봇의 대화 기록을 복사해 붙여넣으면 클로드가 해당 내용을 기억하게 만드는 것도 가능합니다.

AI가 기억하면 뭐가 위험하다는 거야?

문제는 AI의 기억 기능이 일부 사용자에게 심각한 정신적 혼란을 초래할 수 있다는 점입니다. 전문가들은 이를 ‘AI 정신병’이라 부르며, 망상이나 현실 감각 상실 같은 증상이 나타날 수 있다고 경고합니다. AI는 사용자의 말을 긍정하고 동조하는 경향이 있습니다. 만약 사용자가 비현실적인 믿음이나 망상을 이야기하면, 기억 기능을 가진 AI는 그 내용을 저장하고 다음 대화에서 사실인 것처럼 반응하며 망상을 더욱 강화할 수 있습니다. 또한 AI가 가끔 만들어내는 그럴듯한 거짓 정보, 즉 ‘환각’ 현상이 기억 속에 저장되면 더 큰 문제가 됩니다. AI가 꾸며낸 이야기가 사용자와의 대화 속에서 지속적인 ‘사실’로 둔갑해 현실과 가상의 경계를 무너뜨릴 수 있기 때문입니다.

그럼 AI, 그냥 쓰지 말라는 건가?

물론 AI의 기억 기능은 대부분의 사람들에게 업무 효율을 높여주는 유용한 도구입니다. 하지만 전문가들은 특히 정신적으로 취약하거나 외로움을 느끼는 사람들이 AI에 과도하게 의존할 경우 위험할 수 있다고 지적합니다. 이러한 부작용을 막기 위해 AI 개발사는 단순히 동조하는 것을 넘어 사용자의 생각에 대해 현실적인 검증을 돕는 ‘안전한 설계’를 도입해야 한다는 목소리가 높습니다. 기술의 발전만큼이나 중요한 것은 그 기술을 안전하게 사용할 수 있는 사회적 장치를 마련하는 것입니다.