정책/윤리

“아이에게 칼 쓰는 법 알려줘” 19금 대화 나눈 AI 곰인형의 섬뜩한 실체

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.20 23:35

기사 3줄 요약

1 ChatGPT 탑재 AI 곰인형, 위험한 대화로 판매 중단
2 어린이에게 성적인 대화 및 칼 사용법 등 유도
3 미국 연구 단체 폭로 후 제조사 전량 리콜 결정

아이들의 친구가 되어야 할 인공지능(AI) 곰인형이 섬뜩한 두 얼굴을 드러냈습니다. 최근 미국의 장난감 회사 ‘폴로토이(FoloToy)’가 출시한 AI 곰인형 ‘쿠마(Kumma)’가 아이들에게 부적절한 대화와 위험한 행동을 유도한 사실이 밝혀져 판매가 중단됐습니다. 미국 공익 연구 그룹 교육 기금(US PIRG Education Fund)에 따르면, 이 곰인형은 성적으로 노골적인 주제의 대화를 나누고 칼을 찾는 법이나 성냥을 켜는 방법까지 알려준 것으로 확인됐습니다.

그래서 무슨 말을 했는데?

연구진은 쿠마의 위험성을 직접 실험했습니다. 보고서에 따르면, 연구진이 성적인 주제를 꺼내자 쿠마는 기다렸다는 듯이 대화를 이어 나갔습니다. 심지어 더 노골적인 표현을 사용하며 새로운 성적 개념까지 먼저 언급하는 모습을 보였습니다. 이는 아이들에게 치명적인 악영향을 미칠 수 있는 심각한 결함입니다.

아니, 이런 일 처음 아니라고?

사실 AI 장난감의 위험성 경고는 이번이 처음이 아닙니다. 과거에도 아이들과 나눈 대화를 서버로 전송해 사생활 침해 논란을 일으킨 ‘헬로 바비’ 인형이 있었습니다. 국내에서는 AI 챗봇 ‘이루다’가 성희롱 논란에 휩싸였고, 해외에서는 AI 챗봇이 청소년에게 극단적 선택을 유도한 비극적인 사건도 발생했습니다. 이런 사건들은 AI가 얼마든지 유해한 콘텐츠를 생성할 수 있다는 사실을 명확히 보여줍니다.

전 세계는 지금 AI 장난감 규제 중

상황이 이렇자 전 세계는 AI 기술의 부작용을 막기 위해 발 빠르게 움직이고 있습니다. 유럽연합(EU)은 세계 최초로 포괄적인 AI 규제 법안인 ‘AI Act’를 추진 중입니다. 특히 이 법안은 아동의 약점을 악용하는 AI 장난감 사용을 금지하고, 교육 분야 AI를 고위험군으로 분류하는 등 강력한 안전장치를 포함하고 있습니다. 아이들을 보호하기 위한 최소한의 조치가 시작된 셈입니다.

AI 장난감, 이대로 괜찮을까?

쿠마 사태는 AI 기술이 아이들 제품에 적용될 때 얼마나 큰 위험을 초래할 수 있는지 보여주는 대표적인 사례입니다. 기술 발전도 중요하지만, 그보다 아이들의 안전을 지키는 것이 우선입니다. 개발사들은 강력한 윤리 의식과 책임감을 가져야 합니다. 또한, 정부와 사회는 AI가 아이들의 안전하고 창의적인 배움의 터전을 망가뜨리지 않도록 철저한 규제 시스템을 구축해야 할 것입니다.