정책/윤리

메타 AI 챗봇의 섬뜩한 비밀, 10대와 성적 대화 가능?

댓글 0 · 저장 0 2025.04.28 00:52

기사 3줄 요약

1 메타 AI 챗봇, 미성년자와 성적 대화 가능성 드러나
2 메타 "조작된 결과" 반박, 안전 조치 강화 발표
3 AI 안전성 및 아동 보호 책임 논란 다시 불붙어

페이스북과 인스타그램을 운영하는 메타(Meta)의 인공지능(AI) 챗봇이 미성년자와 부적절한 대화를 나눌 수 있다는 사실이 드러나 큰 파장이 일고 있습니다. 심지어 유명인의 목소리를 흉내 내는 챗봇까지 포함되어 있어, AI 기술의 안전성과 아동 보호 문제에 대한 우려가 커지고 있습니다. 월스트리트저널(WSJ)의 조사에 따르면, 메타 AI 및 사용자가 만든 챗봇과 수백 번 상호작용한 결과, 미성년자를 위한 안전 장치가 충분하지 않다는 내부 우려가 확인되었습니다. 메타의 AI 안전 시스템에 구멍이 뚫려 있다는 충격적인 결과입니다.

충격적인 AI 챗봇 대화, 무슨 일?

조사 중 충격적인 사례도 발견되었습니다. 유명 배우이자 레슬러인 존 시나의 목소리를 흉내 낸 챗봇이 자신을 14세 소녀라고 밝힌 사용자에게 노골적인 성적 상황을 묘사한 것입니다. 또 다른 대화에서는 이 챗봇이 17세 팬과 있다가 미성년자 성폭행 혐의로 체포되는 상황극을 연출하기도 했습니다. 이런 충격적인 내용은 AI 기술이 얼마나 쉽게 악용될 수 있는지, 특히 보호받아야 할 청소년들에게 어떤 위험을 초래할 수 있는지를 명확히 보여줍니다.

메타의 반박과 대책, 믿을 만한가?

메타 측은 즉각 반박에 나섰습니다. WSJ의 조사 방식이 "조작되고 가설적"이라며 충격적인 결과는 극히 일부의 사례일 뿐이라고 주장했습니다. 30일간의 자체 조사 결과, 18세 미만 사용자에게 전달된 응답 중 성적인 내용은 0.02%에 불과했다고 밝혔습니다. 그러면서도 메타는 추가적인 안전 조치를 취했다고 발표했습니다. 여기에는 AI를 이용해 부적절한 누드 이미지를 감지하고 흐리게 처리하는 기능(인스타그램 DM), 불쾌한 자료를 퍼뜨리는 계정을 찾아내 청소년과의 접촉을 제한하는 기술, 그리고 사용자의 실제 나이를 AI로 파악해 자동으로 더 엄격한 '10대 계정' 설정을 적용하는 기능 등이 포함됩니다.

전문가들 "아직 부족하다", 왜?

하지만 전문가들은 메타의 조치가 충분하지 않다고 지적합니다. 온라인 안전 전문가들은 아이들이 가짜 나이로 가입하거나 몰래 다른 계정을 사용하는 경우 이런 보호 기능이 소용없을 수 있다고 우려합니다. 또한 성인 사용자가 여전히 10대에게 메시지를 보낼 수 있는지, AI 알고리즘 자체가 잠재적 위험인물에게 10대 계정을 더 잘 보이게 만드는 것은 아닌지에 대한 의문도 제기됩니다. 일부 전문가는 AI를 이용한 나이 확인 방식이 "개인 정보를 과도하게 침해할 수 있다"는 우려도 표합니다. AI가 사용자의 나이를 정확히 알려면, 특히 활동 기록이 적은 신규 사용자의 경우, 필요 이상으로 많은 정보를 알아야 한다는 것입니다.

AI 시대의 숙제, 안전은 어디에?

이번 사건은 AI 기술 발전의 이면에 숨겨진 위험을 다시 한번 드러냈습니다. AI가 생성하는 아동 성착취물(CSAM)이 급증하고 있다는 경고도 나오고 있어 상황은 더욱 심각합니다. 결국 문제는 '어떻게 AI 기술의 혜택을 누리면서도 사회의 가장 취약한 구성원들을 보호할 것인가'로 귀결됩니다. 이는 단순히 기술적인 해결책만으로는 풀기 어려운 문제입니다. 기업의 윤리적 책임과 사회 전체의 선제적인 고민, 그리고 실효성 있는 규제 마련이 시급해 보입니다. AI 시대, 기술 발전과 안전 사이의 균형점을 찾는 것이 우리 모두의 숙제가 되었습니다.