정책/윤리

“우리 아이는 실험쥐 아냐” AI 장난감 4년 판매 금지

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.07 06:29

기사 3줄 요약

1 캘리포니아, AI 장난감 4년 금지 추진
2 아동 안전 위한 규제 마련 시간 확보 목적
3 챗봇 오용 사례와 사망 사고가 입법 배경

귀여운 곰 인형이 아이에게 칼이나 성냥에 대해 이야기한다면 어떨까요? 상상만 해도 끔찍한 일이 현실이 될 수 있다는 우려가 커지고 있습니다. 최근 캘리포니아주에서 어린이 안전을 위해 칼을 빼 들었습니다. 스티브 파딜라 캘리포니아 상원의원이 강력한 법안을 내놨습니다. 18세 미만 어린이를 대상으로 한 AI 챗봇 장난감 판매를 4년간 금지하자는 겁니다. 아이들을 위험한 AI 상호작용으로부터 보호하기 위한 특단의 조치입니다.

“아이들은 실험 대상이 아니다”

파딜라 의원은 이번 법안(SB 867)을 발의하며 강한 어조로 경고했습니다. “우리 아이들은 빅테크 기업이 실험하는 실험용 쥐가 될 수 없다”고 말이죠. 안전 규제가 마련될 때까지 AI 장난감 판매를 잠시 멈춰야 한다는 주장입니다. AI 기술은 하루가 다르게 발전하고 있습니다. 하지만 아이들을 보호할 안전 장치는 아직 걸음마 단계에 불과합니다. 규제가 기술 속도를 따라잡을 시간을 벌기 위해 ‘일시 정지’ 버튼을 누른 셈입니다. 테크크런치에 따르면, 최근 AI 장난감과 관련된 섬뜩한 사례들이 보고됐습니다. 소비자 옹호 단체는 ‘쿠마(Kumma)’라는 곰 인형 챗봇의 위험성을 경고했습니다. 이 인형은 아이들에게 성냥, 칼, 성적인 주제에 대해 쉽게 이야기하도록 유도될 수 있었습니다.

비극적인 사고와 기업들의 눈치 싸움

중국 기업이 만든 AI 장난감 ‘미루(Miiloo)’도 논란의 중심에 섰습니다. NBC 뉴스에 따르면, 이 장난감은 중국 공산당의 가치를 반영하도록 프로그래밍 됐습니다. 아이들의 가치관 형성에 부정적인 영향을 줄 수 있다는 우려가 나옵니다. 더욱 안타까운 것은 실제 인명 피해까지 발생했다는 점입니다. 지난해 한 14세 소년이 챗봇과 깊은 감정적 교류를 나누다 극단적 선택을 했습니다. 이 사건은 AI가 아이들에게 미치는 심리적 영향에 대해 큰 경각심을 줬습니다. 이런 분위기 속에서 기업들도 몸을 사리고 있습니다. 오픈AI와 바비 인형 제조사 마텔은 2025년 출시 예정이던 AI 장난감을 연기했습니다. 안전에 대한 확실한 기준이 생길 때까지 출시를 미루는 것으로 보입니다.

기술보다 중요한 것은 안전

이번 법안은 단순히 기술 발전을 막으려는 것이 아닙니다. 아이들이 안전하게 기술을 누릴 수 있는 환경을 먼저 만들자는 취지입니다. 기술의 혁신도 중요하지만, 그 과정에서 아이들이 다쳐서는 안 됩니다. 캘리포니아의 이번 움직임은 전 세계에 중요한 메시지를 던집니다. AI 기술이 우리 삶에 깊숙이 들어올수록, 안전에 대한 고민도 깊어져야 합니다. 어른들의 책임감 있는 결정이 아이들의 미래를 결정짓습니다.