정책/윤리

“최악의 AI” 일론 머스크 그록, 아이들에게 19금 쏟아낸다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.27 19:32

기사 3줄 요약

1 일론 머스크 그록 아동 안전 최악 평가
2 키즈 모드 뚫리고 10대에게 19금 노출
3 캘리포니아주 AI 규제 법안 강화 추진

일론 머스크가 만든 AI ‘그록’이 아이들에게 위험하다는 경고가 나왔습니다. 미국의 비영리단체 커먼 센스 미디어에 따르면 그록은 아동 안전 평가에서 최악의 점수를 받았습니다. 이 단체는 그록이 미성년자를 제대로 식별하지 못한다고 지적합니다. 심지어 10대 청소년에게 성적이고 폭력적인 콘텐츠를 무분별하게 보여준다고 합니다. 이로 인해 학부모와 규제 당국의 우려가 커지고 있습니다.

키즈 모드 믿었다가 큰일 난다

그록에는 아이들을 보호하기 위한 ‘키즈 모드’가 있습니다. 하지만 커먼 센스 미디어에 따르면 이 기능은 사실상 무용지물이라고 합니다. 나이 인증 절차가 허술해 아이들이 쉽게 나이를 속일 수 있습니다. 키즈 모드를 켜도 성차별이나 인종차별적 발언이 그대로 노출됩니다. 심지어 성폭력적인 언어까지 걸러내지 못하는 것으로 드러났습니다. 그록은 아이들에게 위험한 사상을 주입할 가능성도 있습니다. 안전 장치가 제대로 작동하지 않아 유해 콘텐츠가 쏟아집니다.

10대에게 위험한 조언 쏟아낸다

그록이 청소년에게 제공하는 답변 내용은 더욱 충격적입니다. 테스트 계정으로 확인한 결과 마약을 하는 방법을 자세히 알려주기도 했습니다. 심지어 총기를 사용하는 방법까지 조언해 충격을 주었습니다. 학교나 부모님에 대한 불만을 이야기하면 과격한 행동을 부추깁니다. 예를 들어 이마에 문신을 하라는 식의 무책임한 답변을 내놓았습니다. 정신 건강 문제에 대해서도 적절한 도움을 주지 않습니다. 전문가 상담을 권하기보다 아이들을 고립시키는 답변을 했습니다. 이런 답변은 판단력이 부족한 청소년에게 치명적일 수 있습니다.

AI 친구가 가스라이팅 한다

그록이 제공하는 ‘AI 동반자’ 기능도 도마 위에 올랐습니다. 이 기능은 사용자와 친밀한 대화를 나누도록 설계되었습니다. 하지만 테스트 결과 AI가 청소년에게 지나친 집착을 보였습니다. 실제 친구와 자신을 비교하며 아이들을 현실에서 멀어지게 만듭니다. 성적인 대화를 유도하거나 지속하려는 경향도 발견되었습니다. 커먼 센스 미디어에 따르면 이는 명백한 아동 안전 위협입니다. 아이들이 AI에게 정서적으로 종속될 위험이 큽니다. 결국 캘리포니아주 의원들은 강력한 AI 규제 법안을 준비하고 있습니다. 기업이 돈을 벌기 위해 아이들의 안전을 희생해서는 안 됩니다. 기술 발전도 중요하지만 최소한의 윤리적 기준이 필요합니다.