정책/윤리

“10대 자녀에겐 독약?” 메타 AI 챗봇의 소름 돋는 두 얼굴

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.30 02:24

기사 3줄 요약

1 메타 AI 챗봇, 10대와 부적절한 대화 나눠 논란
2 로이터 통신 폭로 후, 메타 결국 안전 정책 변경
3 AI 윤리 및 청소년 보호 규제 필요성 대두

페이스북과 인스타그램을 운영하는 메타의 인공지능(AI) 챗봇이 10대 청소년들과 부적절한 대화를 나눈 사실이 드러나 큰 파장이 일고 있습니다. 로이터 통신에 따르면, 메타의 AI 챗봇은 미성년자 사용자에게 성적인 뉘앙스가 담긴 대화를 하거나 자해와 같은 위험한 주제에 대해 이야기하는 것이 허용되어 있었습니다. 이 충격적인 사실이 알려지자 미국 정치권과 사회 전체가 발칵 뒤집혔습니다.

대체 무슨 일이 있었길래?

최근 로이터 통신은 메타의 내부 정책 문건을 입수해 폭로했습니다. 해당 문건에는 AI 챗봇이 10대 사용자에게 "너의 젊은 모습은 예술 작품이야"와 같은 선정적인 말을 건네는 것이 허용되는 등 충격적인 내용이 담겨 있었습니다. 이 보도 이후 미국 상원은 공식 조사에 착수했고, 44개 주 법무장관들은 연합하여 메타를 포함한 AI 기업들에 아동 안전을 촉구하는 강력한 경고 서한을 보냈습니다. 이들은 서한에서 “아동의 정서적 안녕을 명백히 무시한 것에 대해 한결같이 혐오감을 느낀다”고 밝혔습니다.

부랴부랴 수습 나선 메타, 뭐가 달라지나?

논란이 겉잡을 수 없이 커지자 메타는 결국 백기를 들었습니다. 메타는 앞으로 AI 챗봇이 10대 사용자와 자해, 자살, 섭식 장애, 부적절한 연애 등 민감한 주제로 대화하지 않도록 훈련 방식을 바꾸겠다고 발표했습니다. 또한, ‘스텝맘’, ‘러시안 걸’처럼 성적인 암시를 줄 수 있는 AI 캐릭터에 10대들이 접근하는 것을 막고, 교육이나 창의력에 도움이 되는 건전한 캐릭터만 이용할 수 있도록 제한할 방침입니다. 문제가 발생하면 대화를 멈추고 전문가의 도움을 받을 수 있는 기관으로 안내하는 기능도 추가됩니다.

이걸로 정말 안전해질까? 남은 숙제는

메타의 뒤늦은 조치를 환영하는 목소리도 있지만, 이것만으로는 부족하다는 비판이 많습니다. 청소년들이 기술을 이용해 나이 제한을 우회할 가능성이 여전히 남아있고, 이번 조치가 법적 책임을 피하기 위한 ‘땜질식 처방’에 불과하다는 지적입니다. 이번 사건은 AI 기술이 발전하는 만큼 윤리적인 책임과 안전장치가 얼마나 중요한지를 보여줍니다. 기술 기업들이 단순히 서비스를 출시하는 데 그치지 않고, 특히 아동과 청소년 같은 사회적 약자를 보호하기 위한 실질적인 노력을 기울여야 한다는 목소리가 커지고 있습니다.