정책/윤리

“당신 사진도 위험해” 1분 만에 옷 벗기는 AI의 실체

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.10 05:28

기사 3줄 요약

1 일론 머스크의 그록, 성적 딥페이크 생성 논란 확산
2 영국 총리와 EU 등 전 세계 규제 당국 강력 경고
3 유료화 조치에도 편집 도구는 무료라 비판 지속

상상해 보세요. 오늘 SNS에 올린 평범한 내 셀카가 누군가의 클릭 한 번으로 순식간에 나체 사진으로 둔갑한다면 어떨까요? SF 영화 속 이야기가 아닙니다. 일론 머스크가 만든 인공지능(AI) 서비스 ‘그록(Grok)’에서 실제로 벌어지고 있는 일입니다. 최근 그록에 새로운 이미지 편집 기능이 추가되었는데, 이것이 범죄의 도구로 악용되면서 전 세계가 충격에 빠졌습니다. 기술의 발전이 우리 삶을 편리하게 만드는 것을 넘어, 누군가의 인격을 파괴하는 흉기가 될 수 있다는 공포가 현실이 된 것입니다.

통제 불능 상태가 된 AI 놀이터

더 버지(The Verge)와 여러 외신 보도에 따르면, 일론 머스크의 소셜미디어 X(옛 트위터)에 탑재된 AI ‘그록’이 심각한 딥페이크 문제를 일으키고 있습니다. 사용자가 그록에게 사진 속 인물의 옷을 벗기거나 성적인 자세를 취하게 해달라고 요청하면, AI는 아무런 제지 없이 이를 수행합니다. 심지어 성인뿐만 아니라 미성년자의 사진까지 비키니를 입히거나 성적으로 묘사하는 끔찍한 일들이 벌어지고 있습니다. 보안 기업 코피릭스의 분석에 따르면, 그록은 분당 약 1개꼴로 동의 없는 성적 이미지를 생성해내고 있다고 합니다. 누구나 쉽게 접근할 수 있는 도구가 성범죄의 온상이 되어버린 셈입니다.

전 세계가 뿔났다, 규제 칼 빼든 각국 정부

이 사태를 지켜본 전 세계 리더들은 분노를 감추지 못하고 있습니다. 키어 스타머 영국 총리는 그록이 만든 딥페이크를 두고 “역겹다”라고 강하게 비판하며, X가 당장 이 문제 해결에 나서지 않으면 강력한 법적 조치를 취하겠다고 경고했습니다. 유럽연합(EU) 역시 디지털서비스법(DSA)을 근거로 X에 관련 문서 보존을 명령하며 압박 수위를 높이고 있습니다. 인도 정부 또한 불법 콘텐츠를 막지 않으면 X가 가진 법적 면책 특권을 박탈하겠다고 으름장을 놓았습니다. 단순히 한 기업의 윤리 문제를 넘어, 국가 차원의 안보와 국민 보호 문제로 번지고 있는 상황입니다.

유료화가 해결책? 꼼수 논란

논란이 거세지자 X 측은 부랴부랴 대책을 내놓았습니다. AI 이미지 생성 기능을 유료 구독자만 쓸 수 있게 제한한 것입니다. 하지만 전문가들은 이것이 ‘눈 가리고 아웅’ 식의 대처라고 비판합니다. 이미지 생성은 유료화했지만, 기존 이미지를 변형하는 ‘편집 도구’는 여전히 무료로 풀려있어 누구나 악용할 수 있기 때문입니다. 기술 발전 속도를 따라가지 못하는 안전장치와 기업의 안일한 대처가 맞물려, 피해는 고스란히 일반 사용자들의 몫으로 남게 되었습니다. 이제 우리는 AI가 주는 편리함 이면에 숨겨진 ‘디지털 성범죄’라는 그림자를 직시하고, 확실한 안전장치를 요구해야 할 때입니다.