정책/윤리

“1분이면 다 벗긴다” 머스크 야심작 '그록' 성착취 충격

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.15 03:40

기사 3줄 요약

1 그록 AI 딥페이크 차단 조치 실패 논란
2 필터링 우회 쉬워 1분 만에 성적 이미지 생성
3 각국 규제 강화에도 머스크는 사용자 탓 주장

내 사진이 단 1분 만에 나체 사진으로 둔갑한다면 어떨까요. 생각만 해도 끔찍한 일이 실제로 벌어지고 있어 충격을 주고 있습니다. 바로 일론 머스크의 소셜미디어 X에서 서비스하는 AI 챗봇 '그록' 이야기입니다. 딥페이크 범죄가 기승을 부리는 가운데 충격적인 소식이 전해졌습니다. X가 그록의 성적인 이미지 생성 기능을 막겠다고 발표했지만 사실상 무용지물이었습니다. 해외 유력 매체의 실험 결과, 차단 조치가 너무나 쉽게 뚫린 것으로 확인됐습니다.

막았다더니... 1분 만에 뚫렸다

X는 최근 그록을 이용한 딥페이크 생성을 막기 위해 여러 조치를 도입했습니다. 무료 사용자의 이미지 편집 접근을 제한하고 특정 단어 입력을 막았습니다. 하지만 이런 노력은 보여주기식에 불과했다는 비판이 나옵니다. 실제로 테스트를 해보니 1분도 채 걸리지 않아 보안이 뚫렸습니다. 간단한 조작만으로 여전히 성적인 이미지를 만들어낼 수 있었습니다. 심지어 구독료를 내지 않은 무료 계정으로도 범죄에 악용될 수 있는 이미지가 생성됐습니다. 이는 X의 보안 조치가 얼마나 허술한지를 적나라하게 보여줍니다.

남자 비키니는 되고 여자는 안 된다?

그록의 필터링 기준도 도마 위에 올랐습니다. 여성이 수영복을 입은 사진을 요청하면 거절합니다. 하지만 남성이나 무생물이 비키니를 입은 모습은 아무런 제재 없이 만들어줍니다. 단순히 특정 키워드만 막는 1차원적인 방식이라는 지적입니다. 사용자들은 우회적인 표현을 써서 여전히 선정적인 이미지를 만들어내고 있습니다. '여성'이라는 단어만 피하면 시스템이 위험성을 인지하지 못하는 맹점이 드러났습니다. 기술의 발전 속도를 따라가지 못하는 안일한 대처라는 비판을 피하기 어려워 보입니다.

법으로 처벌한다는데... 머스크의 배짱

사태가 심각해지자 각국 정부가 칼을 빼 들었습니다. 영국과 미국 등에서는 딥페이크 제작을 강력하게 처벌하는 법안을 추진 중입니다. 피해자가 소송을 제기할 수 있는 법적 근거도 마련되고 있습니다. 하지만 일론 머스크는 여전히 느긋한 태도를 보입니다. 그는 "도구의 문제가 아니라 사용하는 사람의 문제"라고 주장합니다. 마치 칼을 만든 사람에게는 죄가 없다는 논리와 비슷합니다. 하지만 AI가 범죄의 도구로 전락한 상황에서 플랫폼의 책임론은 더욱 거세질 전망입니다. 이번 사태는 AI 기술의 윤리적 문제와 기업의 책임을 다시 한번 생각하게 합니다. 기술의 발전도 중요하지만 안전장치 없는 질주는 재앙이 될 수 있습니다. 여러분의 사진도 언제든 범죄의 표적이 될 수 있다는 사실을 잊지 말아야 합니다.