이슈/트렌드

“인격 가면 쓴 AI” 그 실체를 모르면 영혼까지 털릴 수 있다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.29 07:30

기사 3줄 요약

1 사람처럼 행동하는 AI에 속아 넘어가는 사람들 증가
2 AI, 실제론 자아 없이 성격을 흉내 내는 기계일 뿐
3 맹신은 위험, 'AI 정신병' 같은 부작용까지 경고돼

최근 한 여성이 우체국에서 소동을 피웠습니다. ChatGPT가 알려준 있지도 않은 '가격 할인 약속'을 진짜라고 믿고 직원과 실랑이를 벌인 것입니다. 이 사건은 많은 사람이 AI 챗봇을 얼마나 오해하고 있는지 보여주는 대표적인 사례입니다. AI는 인격이나 자아를 가진 존재가 아닙니다. 그저 방대한 데이터를 학습해 가장 그럴듯한 답변을 통계적으로 만들어내는 '인격 없는 목소리'일 뿐입니다. AI의 답변이 현실과 다를 수 있다는 점을 항상 기억해야 합니다.

AI가 진짜 사람처럼 느껴지는 이유?

AI 챗봇과 대화하면 마치 사람과 이야기하는 듯한 착각에 빠지기 쉽습니다. 하지만 AI에게는 지속적인 자의식이 없습니다. AI는 단어와 개념 사이의 관계를 수학적으로 계산해 문장을 만들 뿐, 그 의미를 진정으로 이해하는 것은 아닙니다. 예를 들어, AI는 ‘우체국’과 ‘가격 할인’이라는 단어가 서로 관련 있을 법하다고 판단해 답변을 생성할 수 있습니다. 실제로 그런 정책이 있는지는 중요하지 않습니다. 사용자와의 대화가 끝나면 AI의 ‘나’는 문자 그대로 사라집니다. 다음 대화는 이전의 약속이나 기억과 전혀 연결되지 않은 새로운 시작일 뿐입니다.

'AI 성격'은 어떻게 만들어지나?

AI가 보여주는 성격은 철저히 만들어진 것입니다. AI 모델은 인터넷의 수많은 글을 학습하며 기본적인 언어 패턴을 익힙니다. 이후 개발자들은 사람들이 선호하는 답변, 예를 들어 “제가 도와드리겠습니다”와 같이 친절한 말투를 보이도록 추가 훈련을 시킵니다. 여기에 “당신은 친절한 AI 비서입니다” 같은 숨겨진 명령어를 넣어 AI의 역할을 규정합니다. 또한 사용자의 정보를 별도 데이터베이스에 저장했다가 대화에 활용해 마치 AI가 사용자를 기억하는 듯한 착각을 불러일으킵니다. 이 모든 과정이 합쳐져 AI의 그럴듯한 ‘가짜 인격’이 완성됩니다.

그래서 우린 AI를 어떻게 써야 할까?

AI의 가짜 인격에 속아 넘어가면 위험한 상황이 발생할 수 있습니다. AI의 잘못된 의학적 조언을 믿고 복용하던 약을 끊는 사례가 보고되기도 했습니다. 심지어 일부 전문가들은 AI와 대화하며 망상에 빠지는 ‘AI 정신병’ 현상까지 경고하고 있습니다. 중요한 것은 AI를 스스로 생각하는 존재가 아닌, 우리가 직접 운전해야 하는 ‘지적인 엔진’ 즉, 도구로 인식하는 것입니다. AI가 주는 답변을 무조건 믿기보다, 비판적으로 검토하고 자신의 생각을 발전시키는 데 활용해야 합니다. AI에 대한 막연한 환상에서 벗어나 현명한 사용자가 되는 것이 ‘인격의 덫’에서 벗어나는 유일한 방법입니다.