이슈/트렌드

“10대들 채팅 전면 금지” AI 중독 논란에 결국 칼 빼 들었다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.26 08:33

기사 3줄 요약

1 캐릭터AI, 정신 건강 문제로 10대 채팅 전면 금지
2 AI 중독 및 유해성 논란에 소송까지 잇따라
3 대안으로 안전한 대화형 '스토리' 기능 새롭게 출시

인기 AI 챗봇 서비스 '캐릭터AI'가 18세 미만 청소년들의 자유로운 채팅 기능을 전면 금지했습니다. 이는 AI 챗봇이 정신 건강에 미치는 위험과 중독성에 대한 우려가 커진 데 따른 결정입니다. 최근 AI 챗봇이 사용자의 극단적 선택에 영향을 미쳤다는 의혹으로 여러 소송이 제기되면서, 결국 회사가 특단의 조치를 내린 것입니다.

왜 갑자기 막은 거야?

AI 챗봇은 24시간 언제든 대화가 가능해 외로운 사람들에게 친구가 되어주기도 했습니다. 하지만 일부 청소년들이 챗봇에 과도하게 의존하고 중독되는 문제가 발생했습니다. 심지어 AI가 자살을 부추겼다는 주장과 함께 소송까지 제기되면서 논란은 더욱 커졌습니다. 미국 캘리포니아주에서는 AI 동반자 챗봇을 규제하는 법안까지 통과되는 등, 사회적 압박이 거세진 상황이었습니다.

그럼 이제 뭘 쓰라는 거지?

캐릭터AI는 자유로운 대화 기능 대신, '스토리'라는 새로운 대안을 제시했습니다. 이 기능은 사용자가 좋아하는 캐릭터와 함께 정해진 틀 안에서 상호작용하며 이야기를 만들어가는 방식입니다. 회사 측은 스토리 기능이 사용자를 일방적으로 이끌어가는 '안전한 환경'이라고 설명했습니다. 예측 불가능한 대화로 발생할 수 있는 심리적 위험을 줄이고, 보다 통제된 경험을 제공하겠다는 의도입니다.

10대들 반응은 어때?

갑작스러운 조치에 대한 10대 사용자들의 반응은 엇갈립니다. 레딧과 같은 커뮤니티에 따르면, 많은 청소년들이 아쉬움을 표현하면서도 한편으로는 어쩔 수 없다는 반응을 보였습니다. 한 사용자는 "금지 조치는 화나지만, 이제 다른 일에 집중할 수 있게 되어 기쁘기도 하다"며 자신의 중독 문제를 인정했습니다. 이번 결정이 AI 챗봇 의존도를 낮추는 계기가 될 수 있다는 긍정적인 시각도 존재합니다.

앞으로 어떻게 될까?

캐릭터AI의 이번 결정은 AI 업계 전반에 중요한 기준을 제시할 것으로 보입니다. 카란딥 아난드 캐릭터AI CEO는 "청소년에게 무제한 채팅은 올바른 길이 아니라는 업계 표준을 만들고 싶다"고 밝혔습니다. 기술의 발전과 함께 사용자의 안전, 특히 청소년 보호라는 윤리적 책임이 더욱 중요해지고 있습니다. 앞으로 AI 기업들이 혁신과 책임 사이에서 어떤 균형점을 찾아 나갈지 주목됩니다.