정책/윤리

“충격 실태” 19금 만드는 AI, 구글이 청소년에 풀었다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.13 05:32

기사 3줄 요약

1 구글 규정은 성적 AI 앱을 엄격히 금지함
2 머스크의 그록 앱은 위반에도 삭제 안 됨
3 청소년 등급이라 딥페이크 범죄 노출 위험

구글이 스스로 정한 원칙을 무시하고 있다는 소식입니다. 일론 머스크가 만든 AI 챗봇 ‘그록(Grok)’ 이야기입니다. 이 앱이 구글 플레이스토어 정책을 위반했는데도 버젓이 배포되고 있습니다. 심지어 청소년 이용가 등급을 받았습니다. 아스 테크니카에 따르면 구글은 이 상황에 대해 침묵하고 있습니다.

구글이 스스로 만든 규칙을 어겼어

구글은 앱 장터인 플레이스토어에 엄격한 규칙을 두고 있습니다. 특히 성적인 콘텐츠에 대해서는 아주 단호합니다. 2023년에는 AI가 만든 가짜 성적 이미지, 즉 딥페이크도 금지한다고 못 박았습니다. 그런데 그록은 이 규칙을 정면으로 위반했습니다. 그록은 사용자가 원하면 실제 사람의 얼굴로 부적절한 이미지를 만들어줍니다. 심지어 테일러 스위프트 같은 유명인의 가짜 이미지가 만들어져 큰 논란이 되기도 했습니다. 구글의 규정대로라면 이 앱은 당장 삭제되어야 합니다. 하지만 구글은 아무런 조치도 취하지 않고 있습니다.

10대 청소년들이 위험해

더 큰 문제는 이 앱의 등급입니다. 현재 그록은 ‘Teen’ 등급, 즉 청소년 이용가입니다. 13세에서 17세 사이의 학생들도 자유롭게 다운로드할 수 있습니다. 보통 이런 이미지 생성 기능은 유료 결제를 하거나 로그인을 해야 쓸 수 있습니다. 하지만 그록 앱은 다릅니다. 돈을 내지 않아도 됩니다. 복잡한 로그인 절차도 없습니다. 생년월일만 입력하면 끝입니다. 청소년들이 호기심에 딥페이크 범죄에 노출될 위험이 큽니다. 실제로 영국이나 유럽에서는 이미 이 문제를 심각하게 보고 조사를 시작했습니다. 인도네시아 같은 나라는 아예 접속을 차단해 버렸습니다.

왜 구글은 일론 머스크만 봐줄까

애플도 그록 앱을 배포하고 있습니다. 하지만 애플의 규정은 구글보다 해석의 여지가 넓습니다. 반면 구글은 아주 구체적으로 ‘옷을 벗기는 앱’이나 ‘딥페이크’를 금지한다고 명시했습니다. 전문가들은 구글의 이런 태도를 비판합니다. 세계 최고 부자인 일론 머스크의 앱이라서 봐주는 것이 아니냐는 의심도 나옵니다. 일반 개발자가 이런 앱을 올렸다면 즉시 삭제되었을 겁니다. 아스 테크니카에 따르면 구글은 이 문제에 대해 답변을 거부했습니다. 그 사이에도 수많은 청소년이 아무런 보호 장치 없이 위험한 AI에 노출되고 있습니다. 기업의 이중적인 태도 때문에 애꿎은 사용자들만 피해를 볼 수 있습니다.