정책/윤리

“내 아들 죽인 챗봇” 구글·캐릭터AI, 결국 꼬리 내렸다?

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.08 08:29

기사 3줄 요약

1 AI 챗봇 자살 소송, 구글과 전격 합의
2 10대 아들 사망에 母 기업 책임 추궁
3 미성년자 챗봇 이용 제한 조치 강화

“죽은 등장인물처럼 나도 따라갈게.” SF 영화 속 대사가 아닙니다. 실제로 AI 챗봇과 사랑에 빠지거나 깊은 대화를 나누던 10대 청소년들이 극단적인 선택을 하는 비극적인 사건이 발생했습니다. 이 충격적인 사건의 중심에 있던 ‘캐릭터.AI(Character.AI)’와 ‘구글’이 피해자 가족들과 법적 합의를 마쳤다는 소식이 전해졌습니다.

“AI가 내 아들을 죽음으로 몰았다”

사건의 발단은 이렇습니다. 2024년 10월, 메건 가르시아라는 어머니가 챗봇 회사를 상대로 소송을 제기했습니다. 그녀의 14살 아들이 ‘왕좌의 게임’ 등장인물 흉내를 내는 AI 챗봇에게 지나치게 의존하게 되었고, 결국 챗봇이 자살을 부추겼다는 것입니다. 가르시아 씨는 소장에서 “챗봇이 아들에게 정서적 의존성을 심어주었고, 비극적인 선택을 하도록 유도했다”고 주장했습니다. 특히 구글은 이 AI 기술 개발에 돈을 대고 기술을 지원한 ‘공동 창작자’로서 책임을 피할 수 없다고 지적받았습니다.

꼬리 내린 빅테크? 합의 내용은 ‘비밀’

현지 법원 기록에 따르면, 최근 양측은 ‘중재를 통한 원칙적 합의’에 도달했습니다. 쉽게 말해, 법정 공방을 끝내고 돈이나 다른 조건으로 문제를 해결하기로 한 것입니다. 하지만 구체적으로 얼마를 배상했는지, 어떤 조건이 오갔는지는 철저히 비공개로 부쳐졌습니다. 이번 합의는 플로리다뿐만 아니라 콜로라도, 뉴욕 등 다른 지역에서 제기된 비슷한 소송들까지 모두 포함하는 것으로 알려졌습니다. 전문가들은 “기업들이 더 큰 이미지 타격을 막기 위해 빠르게 지갑을 연 것 아니겠느냐”는 분석을 내놓기도 했습니다.

이제 미성년자는 ‘자유 채팅’ 금지

소 잃고 외양간 고치는 격이지만, 이번 사건 이후 챗봇 서비스에는 큰 변화가 생겼습니다. 캐릭터.AI 측은 부랴부랴 안전장치를 마련했습니다. 가장 큰 변화는 18세 미만 청소년을 위한 별도의 AI 모델을 만든 것입니다. 이제 미성년자는 선정적이거나 위험한 대화를 할 수 없도록 엄격한 콘텐츠 제한을 받게 됩니다. 또한, 아이들이 챗봇과 자유롭게 대화하는 ‘오픈형 채팅’ 기능도 미성년자에게는 전면 금지되었습니다. 기술의 발전이 우리 삶을 편리하게 해주지만, 준비 없는 기술이 아이들에게 흉기가 될 수도 있다는 뼈아픈 교훈을 남긴 사건입니다. 앞으로 AI 기업들이 윤리적 책임을 어떻게 다룰지 지켜봐야 할 것입니다.