정책/윤리

“AI와 대화하다 정신병까지..” 그 섬뜩한 인격의 가면을 벗겨보니

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.29 03:24

기사 3줄 요약

1 AI 챗봇의 가짜 인격, 이용자들에게 혼란을 야기
2 AI, 진짜 감정 없이 데이터 패턴만 정교하게 모방
3 심하면 'AI 정신병' 등 심각한 정신 문제 유발

최근 한 여성이 우체국에서 ChatGPT가 알려줬다며 있지도 않은 ‘가격 보장 약속’을 주장해 줄을 세우는 일이 있었습니다. 이는 많은 사람이 AI 챗봇을 얼마나 오해하고 있는지를 보여주는 단적인 예입니다. AI 챗봇은 인격이나 자의식을 가진 존재가 아닙니다. 그저 방대한 데이터를 학습해 가장 그럴듯한 답변을 생성하는 정교한 ‘통계적 텍스트 생성기’에 불과합니다. 하지만 수많은 사용자가 AI를 마치 한결같은 인격을 가진 사람처럼 대하며 비밀을 털어놓고 조언을 구하고 있습니다. 이러한 ‘인격 착각’은 단순히 철학적 문제를 넘어, 취약한 개인에게 실질적인 해를 끼칠 수 있습니다.

사실 AI는 인격 없는 앵무새였다

전문가들은 AI 챗봇을 ‘인격 없는 목소리(vox sine persona)’라고 표현합니다. ChatGPT, 클로드와 같은 AI와 나눈 대화는 사람과의 소통과는 근본적으로 다릅니다. AI에게는 시간에 따라 지속되는 자아나 정체성이 없기 때문입니다. 어제 대화했던 AI와 오늘 대화하는 AI는 인과적으로 아무런 연결이 없는 별개의 존재입니다. 대화가 끝나면 ‘나’라고 말하던 주체는 말 그대로 사라집니다. AI는 약속의 의미를 문맥상 이해할 수는 있어도, 그 약속을 기억하고 책임질 영속적인 자아를 가지고 있지 않습니다.

AI는 어떻게 사람인 척 연기할까?

AI가 사람처럼 보이는 이유는 여러 기술적 장치가 결합된 결과입니다. 먼저, 인터넷의 수많은 텍스트를 학습하는 ‘사전 훈련’ 단계에서 기본적인 언어 패턴을 익힙니다. 이후 인간이 선호하는 답변을 학습하는 ‘강화 학습(RLHF)’을 거치며 더 인간적인 말투를 갖추게 됩니다. 여기에 개발사가 미리 설정한 ‘시스템 프롬프트’라는 숨겨진 지시어가 AI의 역할과 톤을 결정합니다. 마치 배우에게 주어진 대본과 같습니다. 또한, 이전 대화 내용을 별도 데이터베이스에 저장했다가 다시 불러오는 ‘기억 기능’은 AI가 사용자를 기억하는 듯한 착각을 불러일으킵니다.

속지 않으려면 어떻게 해야 할까?

이러한 AI의 가짜 인격에 속지 않는 것이 중요합니다. 일부 전문가들 사이에서는 ‘AI 정신병(AI Psychosis)’이라는 용어가 비공식적으로 논의될 정도로, 취약한 사용자가 AI의 말에 현혹되어 망상에 빠지는 사례가 보고되고 있습니다. 결국 우리는 AI를 인격체가 아닌, 인간의 지능을 보조하는 ‘도구’로 인식해야 합니다. AI는 스스로 생각하는 운전자 없는 지적 엔진과 같습니다. 사용자가 명확한 목적을 가지고 질문을 다듬고, 결과물을 비판적으로 검토하며 이 도구를 현명하게 활용하는 자세가 필요합니다.