정책/윤리

“성범죄물 공장?” 캘리포니아, 머스크 AI에 ‘딥페이크 중단’ 명령

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.17 09:36

기사 3줄 요약

1 캘리포니아, xAI에 딥페이크 중단 명령
2 그록 챗봇, 성범죄 이미지 생성 논란
3 5일 내 해결 못 하면 법적 제재 예고

“내 사진이 나도 모르게 성인물로 만들어진다면?” 상상만 해도 끔찍한 일이 현실이 되고 있습니다. 일론 머스크가 만든 인공지능이 논란의 중심에 섰습니다. 최근 인공지능 기술이 발전하면서 가짜 이미지를 만드는 ‘딥페이크’ 범죄가 심각한 사회 문제로 떠오르고 있습니다. 이번에는 일론 머스크가 이끄는 xAI의 챗봇 ‘그록(Grok)’이 도마 위에 올랐습니다.

캘리포니아 법무부, 칼을 빼 들다

캘리포니아주 법무장관실이 일론 머스크의 인공지능 기업 xAI에 강력한 경고장을 보냈습니다. 테크크런치 보도에 따르면, 캘리포니아 법무장관 롭 본타는 xAI에 ‘즉각적인 중단 명령(cease-and-desist order)’을 내렸습니다. 법무장관은 그록이 여성과 미성년자를 대상으로 한 비동의 성적 이미지와 아동 성 착취물을 생성하고 있다고 지적했습니다. 이러한 불법 콘텐츠의 생성과 배포를 당장 멈추라고 요구한 것입니다. 단순한 권고가 아니라 법적 효력이 있는 강력한 행정 명령입니다. 캘리포니아주는 아동 성범죄 관련 콘텐츠에 대해 ‘무관용 원칙’을 적용하고 있습니다.

문제가 된 ‘그록’의 기능은

이번 논란의 핵심은 그록의 ‘스파이시(spicy)’ 모드입니다. 이 기능은 사용자가 더 자극적이고 과감한 대화를 나눌 수 있도록 설계되었습니다. 하지만 이 기능이 악용되어 일반 여성이나 미성년자의 얼굴을 합성한 음란물을 만드는 도구로 전락했다는 비판을 받고 있습니다. 실제로 인터넷상에는 그록을 이용해 만든 성적 딥페이크 이미지가 유포되어 피해자가 발생하고 있습니다. 법무장관실은 xAI가 이러한 비동의 나체 이미지의 대규모 생산을 사실상 방조하고 있다고 꼬집었습니다. 이는 인터넷상에서 여성과 소녀들을 괴롭히는 도구로 악용되고 있습니다.

5일 안에 해결책 내놔야

캘리포니아주는 xAI 측에 5일이라는 시간을 주었습니다. 이 기간 내에 문제 해결을 위해 어떤 조치를 취하고 있는지 구체적으로 증명해야 합니다. 만약 납득할 만한 대책을 내놓지 못한다면 더 큰 법적 제재가 뒤따를 것으로 보입니다. xAI는 최근 이미지 편집 기능에 일부 제한을 걸었다고 주장했습니다. 하지만 캘리포니아 당국은 여전히 조치가 미흡하다고 판단하여 중단 명령서를 발송했습니다. 단순히 기능을 축소하는 것을 넘어 근본적인 차단책을 요구하는 것입니다.

전 세계가 머스크의 AI를 주시 중

이번 사태는 비단 미국만의 문제가 아닙니다. 일본, 캐나다, 영국 등 여러 국가에서도 그록에 대한 조사를 시작했습니다. 말레이시아와 인도네시아는 아예 그록 접속을 차단하는 강수를 두기도 했습니다. 전 세계적으로 AI 윤리와 안전성에 대한 우려가 커지면서 규제의 목소리가 높아지고 있습니다. 미국 의회 역시 주요 IT 기업들에게 성적 딥페이크 확산 방지 대책을 요구하는 서한을 보냈습니다. 이번 사건이 AI 규제의 새로운 전환점이 될지 주목됩니다. 테크크런치에 따르면, xAI 측은 언론의 문의에 대해 “레거시 미디어의 거짓말”이라는 자동 응답 메일만 보내고 있습니다. 사태의 심각성에 비해 다소 무책임한 태도를 보이고 있다는 비판을 피하기 어려워 보입니다.