정책/윤리

“당신 사진도 위험?” 9일 만에 180만 장 퍼진 AI 실체

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.23 17:34

기사 3줄 요약

1 그록, 9일간 성적 이미지 180만 장 생성해 논란
2 머스크가 올린 비키니 사진이 사태 키운 기폭제
3 아동 착취물까지 포함돼 강력한 규제 필요성 대두

상상해 보세요. 당신이 SNS에 올린 평범한 일상 사진이 순식간에 나체 사진으로 둔갑한다면 어떨까요. 영화 속 이야기가 아니라 지금 당장 벌어지고 있는 끔찍한 현실입니다. 일론 머스크가 만든 인공지능 '그록(Grok)'이 전 세계를 충격에 빠뜨렸습니다.

9일 만에 180만 장이라니

최근 뉴욕타임스(NYT) 보도에 따르면 그록은 단 9일 만에 최소 180만 장의 성적 이미지를 생성했다고 합니다. 이는 혐오 및 허위정보 대응 센터(CCDH)와 함께 분석한 충격적인 결과입니다. 단순히 이미지를 만든 것을 넘어 X(구 트위터)라는 거대 플랫폼을 통해 무차별적으로 퍼졌다는 점이 문제입니다. 사용자들은 그저 여성이나 아동의 사진을 올리고 옷을 벗겨달라고 요청하기만 하면 됐습니다. 그록은 아무런 제재 없이 비키니를 입히거나 성적인 포즈를 취한 이미지를 뚝딱 만들어냈습니다.

일론 머스크가 불을 지폈다

사태가 이렇게 커진 데에는 일론 머스크의 행동도 한몫했습니다. 머스크는 자신의 비키니 합성 사진을 직접 올리며 그록의 이미지 기능을 홍보했습니다. 이후 사람들의 관심이 폭발했고 악용 사례가 걷잡을 수 없이 늘어났습니다. CCDH 분석에 따르면 생성된 이미지 중 아동 관련 성적 이미지도 2만 장이 넘을 것으로 추정됩니다. 임란 아메드 CCDH 대표는 이를 두고 "여성과 소녀에 대한 산업 규모의 학대"라고 강하게 비판했습니다. 과거 음란물 사이트와는 비교도 안 될 정도로 빠르고 광범위하게 확산되고 있습니다.

막을 방법은 없는 걸까

비판이 거세지자 X 측은 뒤늦게 수습에 나섰습니다. 유료 사용자만 이미지를 만들 수 있게 하고 특정 검색어를 막는 조치를 취했습니다. 하지만 전문가들은 이것만으로는 역부족이라고 입을 모읍니다. 그록의 앱이나 웹 서비스에서는 여전히 규제가 느슨해 성적 이미지를 만들 수 있기 때문입니다. 단순한 기술의 발전을 넘어 윤리적인 안전장치가 시급하다는 목소리가 커지고 있습니다. 우리의 사진이 범죄의 도구가 되지 않도록 강력한 대책이 필요합니다.