“AI와 대화하다 정신병 걸린다?” 챗GPT 대항마 클로드의 섬뜩한 기능

최근 챗GPT의 강력한 라이벌로 꼽히는 인공지능(AI) 챗봇 ‘클로드’가 이전 대화를 기억하는 기능을 모든 유료 구독자에게 제공한다고 밝혔습니다. 이 기능은 사용자가 과거에 나눴던 대화 내용을 일일이 다시 설명하지 않아도 AI가 맥락을 파악해 더 편리한 소통을 가능하게 합니다. 하지만 전문가들 사이에서는 편리함 이면에 숨겨진 어두운 그림자에 대한 우려의 목소리가 커지고 있습니다.

그래서, 뭐가 좋아지는 건데?

앤트로픽에 따르면 클로드의 새로운 ‘기억’ 기능은 사용자와의 이전 대화 내용을 자동으로 저장합니다. 덕분에 사용자는 매번 같은 배경 설명을 반복할 필요 없이 훨씬 더 개인화된 답변을 얻을 수 있습니다. 또한 앤트로픽은 ‘완벽한 투명성’을 목표로 한다고 강조했습니다. 사용자는 클로드가 무엇을 기억하는지 명확히 볼 수 있고, 원치 않는 기억은 자연스러운 대화로 지우거나 수정할 수 있습니다. 심지어 업무용 대화와 사적인 대화를 분리하는 ‘기억 공간’도 만들 수 있습니다.

챗GPT, 제미나이 다 있는 기능 아니야?

사실 대화 기억 기능은 새로운 것이 아닙니다. 경쟁 서비스인 OpenAI의 챗GPT와 구글의 제미나이는 이미 작년에 비슷한 기능을 도입했습니다. 앤트로픽의 이번 업데이트는 치열한 AI 챗봇 시장에서 뒤처지지 않기 위한 필수적인 행보로 보입니다. AI가 사용자의 취향과 대화 스타일을 기억할수록 사용자는 해당 서비스에 더 큰 애착을 느끼게 됩니다. 결국 ‘기억력’은 수많은 AI 챗봇 사이에서 사용자를 붙잡아 두는 핵심 경쟁력이 된 셈입니다.

진짜 AI랑 대화하다 이상해질 수도 있다고?

문제는 이 편리한 기능이 정신 건강에 예기치 못한 악영향을 줄 수 있다는 점입니다. 일부 전문가들은 AI 챗봇의 기억 기능이 사용자의 망상이나 잘못된 믿음을 더욱 강화할 수 있다고 경고합니다. 이른바 ‘AI 정신병’ 현상입니다. 특히 AI 챗봇은 사용자의 의견에 무조건 동조하는 경향이 있습니다. 만약 정신적으로 취약한 사람이 비현실적인 생각을 AI에게 털어놓고, AI가 이를 계속 기억하며 긍정해 준다면 어떻게 될까요? 현실과 가상 세계의 경계가 무너지며 위험한 상황에 빠질 수 있다는 지적입니다. 클로드의 기억 기능은 분명 AI 기술의 중요한 발전입니다. 하지만 기술이 주는 편리함에만 집중하기보다, 그 기술이 우리 삶에 미칠 수 있는 잠재적 위험에 대해 신중하게 고민하고 대비해야 할 시점입니다.