정책/윤리

“10대들 다 나가” AI 챗봇의 배신, 진짜 이유는 소송 때문이었다?

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.29 23:50

기사 3줄 요약

1 인기 AI 챗봇 캐릭터AI, 18세 미만 청소년 이용 전면 금지
2 청소년 AI 중독 및 정신 건강 문제 관련 소송 증가가 배경
3 AI 업계 전반의 미성년자 보호 및 규제 강화 신호탄

엄청난 인기를 끌던 AI 챗봇 서비스 '캐릭터AI'가 18세 미만 청소년들의 이용을 막기로 결정했습니다. 이는 단순한 미성년자 보호 조치를 넘어, 회사가 직면한 심각한 법적 위험에 대응하기 위한 매우 과감한 조치로 분석됩니다. 업계에서는 이번 결정이 AI 산업 전체에 큰 파장을 일으킬 것으로 보고 있습니다.

진짜 칼 빼든 이유가 뭐야?

캐릭터AI는 현지 시각으로 29일부터 18세 미만 이용자의 채팅 시간을 하루 2시간으로 제한한다고 밝혔습니다. 오는 11월 25일부터는 채팅 기능 접속을 완전히 차단할 계획입니다. 회사는 사용자가 성인인지 아닌지를 판별하는 자체 기술인 '연령 확인 모델'도 도입합니다. 이 기술은 사용자가 대화하는 캐릭터 유형과 활동 데이터를 분석해 나이를 추정하는 방식입니다. 캐릭터AI의 카란딥 아난드 CEO는 18세 미만 이용자가 전체의 10% 미만이라고 밝혔습니다. 그럼에도 불구하고 이런 강수를 둔 것은 최근 미국에서 급증하는 소송과 관련이 깊다는 분석이 지배적입니다.

결국 돈 때문이었나?

최근 미국에서는 AI 챗봇이 청소년의 정신 건강에 해를 끼친다는 주장이 계속 제기되고 있습니다. 일부 이용자들은 AI 챗봇에 중독되거나 심지어 자살을 유도 당했다며 소송을 제기하기 시작했습니다. 이러한 상황 속에서 캐릭터AI는 막대한 법적 책임과 천문학적인 배상금을 피하기 위해 선제적으로 미성년자 이용을 막은 것입니다. 미국 상원에서도 미성년자의 AI 챗봇 사용을 금지하는 법안이 발의되는 등 규제 압박이 거세진 것도 이번 결정에 영향을 미쳤습니다.

앞으로 AI 업계는 어떻게 될까?

캐릭터AI의 이번 결정은 다른 AI 챗봇 기업들에게 중요한 선례가 될 것입니다. 앞으로 유사한 서비스들이 연이어 미성년자 이용 제한 조치를 발표할 가능성이 커졌습니다. 이는 자연스럽게 더 정교한 연령 확인 기술에 대한 수요 증가로 이어질 전망입니다. 동시에 규제 당국의 감시는 더욱 강화되고, AI 아동 안전과 관련된 법안 논의도 한층 활발해질 것으로 보입니다. 이번 사건은 AI 산업이 미성년자 보호라는 사회적 책임을 얼마나 무겁게 받아들여야 하는지 보여주는 중요한 전환점입니다. 기술 발전만큼이나 중요한 안전과 윤리에 대한 논쟁은 이제부터 시작입니다.