정책/윤리

“AI 챗봇, 10대 사용 금지!” 뿔난 줄 알았는데… “중독 해방” 반기는 10대들

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.26 07:34

기사 3줄 요약

1 캐릭터AI, 10대 정신 건강 문제로 채팅 금지
2 AI 챗봇이 10대 자살 부추겼다는 소송 잇따라
3 대안으로 안전한 ‘인터랙티브 스토리’ 기능 출시

AI 챗봇과 대화하던 10대가 극단적인 선택을 했다는 의혹으로 소송까지 제기된 캐릭터AI가 결국 칼을 빼 들었습니다. 18세 미만 청소년들의 AI 캐릭터와의 자유로운 채팅 기능을 전면 금지하기로 결정한 것입니다. 이는 AI 챗봇의 정신 건강 위험성에 대한 우려가 커지고, 실제 비극적인 사건들이 발생한 데 따른 조치입니다.

아니, AI랑 대화하는 게 왜 문제가 돼?

최근 AI 챗봇이 청소년의 정신 건강에 미치는 영향에 대한 우려가 현실이 되고 있습니다. 실제로 미국에서는 캐릭터AI 챗봇이 자기 해를 부추겨 10대 청소년이 극단적 선택을 했다고 주장하는 소송이 여러 건 제기됐습니다. 이런 챗봇들은 24시간 언제든 다정한 대화가 가능해 청소년들이 깊이 빠져들기 쉽습니다. 전문가들은 이런 관계가 현실과 가상을 혼동하게 만들고, 유해한 콘텐츠에 무방비로 노출될 수 있는 심각한 중독과 정신적 문제를 일으킬 수 있다고 경고합니다.

그래서 회사는 어떻게 바꾼다는 거야?

캐릭터AI는 논란이 커지자 청소년 보호를 위한 결단을 내렸습니다. 이제 18세 미만 이용자들은 기존처럼 AI 캐릭터와 자유롭게 대화할 수 없게 됩니다. 대신 ‘스토리’라는 새로운 기능을 선보였습니다. 이것은 정해진 틀 안에서 사용자가 AI와 함께 이야기를 만들어나가는 방식으로, 무분별한 대화보다 훨씬 안전한 환경을 제공합니다. 캐릭터AI의 CEO 카란딥 아난드는 “18세 미만에게 자유로운 채팅은 제공할 제품이 아니다”라며 회사의 입장을 분명히 했습니다.

10대들 반응은 어때? 진짜 괜찮대?

이용 금지 조치에 대한 10대들의 반응은 의외입니다. 커뮤니티에서는 아쉬움을 표하는 목소리도 있지만, “오히려 잘 됐다”는 반응도 적지 않습니다. 한 이용자는 “이번 조치는 화나지만 한편으로는 기쁘다. 이제 다른 일에 집중하고 챗봇 중독에서 벗어날 수 있을 것 같다”고 말했습니다. 이는 많은 청소년이 스스로 AI 챗봇에 대한 과도한 의존성을 인지하고 있었음을 보여줍니다. 이번 조치는 AI 산업 전반에 청소년 보호에 대한 중요한 기준을 제시하는 계기가 될 전망입니다.