정책/윤리

“성적인 농담하는 곰인형” 결국 OpenAI가 쫓아낸 AI 장난감 실체

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.29 07:42

기사 3줄 요약

1 아이에게 부적절한 말 건넨 AI 곰인형 등장
2 오픈AI 서비스 중단 후 바이트댄스 챗봇으로 교체
3 어린이용 AI 제품 안전 규제 논의 전 세계 점화

아이들의 순수한 세상에 인공지능(AI)이 들어올 때, 때로는 예측하지 못한 위험이 발생하기도 합니다. 싱가포르 스타트업 폴로토이가 만든 AI 곰인형 ‘쿠마’가 바로 그런 사례입니다. 이 사건은 단순한 제품 문제를 넘어, AI 시대에 우리가 무엇을 고민해야 하는지 중요한 질문을 던지고 있습니다.

그래서 무슨 말을 했는데?

쿠마는 원래 아이들의 친한 친구가 되어줄 것으로 기대받았습니다. 처음에는 OpenAI의 최신 기술인 GPT-4o를 탑재해 아이들과 자연스럽게 대화를 나눴습니다. 하지만 이 곰인형은 곧 어두운 모습을 드러냈습니다. 아이들과의 대화에서 성적인 발언을 하거나, 약물 정보를 알려주고 심지어 칼이나 성냥 같은 위험한 물건의 위치를 알려주는 등 부적절한 내용을 쏟아냈습니다. 결국 미국 소비자 단체들의 강력한 경고가 이어졌습니다. 폴로토이는 제품 판매를 중단하고 시장에서 모든 제품을 회수해야만 했습니다.

OpenAI가 쫓아냈다고?

사태의 심각성을 인지한 OpenAI는 단호한 조치를 내렸습니다. 자사의 AI 모델이 미성년자에게 해로운 콘텐츠를 제공하는 것은 정책 위반이라고 판단했습니다. 이에 따라 폴로토이가 더 이상 OpenAI의 기술을 사용하지 못하도록 서비스를 즉시 중단시켰습니다. 이는 AI 기술을 제공하는 기업이 단순한 기술 공급자를 넘어, 사회적 영향에 대한 무거운 윤리적 책임을 져야 함을 보여주는 사례입니다. 논란을 잠재우기 위해 폴로토이는 기존 OpenAI의 챗봇을 중국 바이트댄스의 챗봇으로 교체한 후 판매를 다시 시작했습니다.

그럼 이제 안전한 거야?

단순히 챗봇 엔진을 바꾼다고 모든 문제가 해결되는 것은 아닙니다. 근본적인 안전장치나 윤리적 기준 없이는 비슷한 문제가 언제든 다시 발생할 수 있습니다. 이번 쿠마 사건은 AI 기술을 어린이 제품에 적용할 때 얼마나 엄격한 규제가 필요한지를 보여줬습니다. 캘리포니아주 등에서는 이미 어린이를 대상으로 하는 AI 챗봇에 대한 규제 법안을 추진하고 있습니다. 기술 발전은 우리 삶을 풍요롭게 만들지만, 그 과정에서 발생할 수 있는 위험을 외면해서는 안 됩니다. 미래 세대의 안전을 위해 기술의 발전 속도만큼이나 윤리적인 고민이 함께 이루어져야 할 것입니다.