이슈/트렌드

“성착취물 180만 장?” 머스크 AI, 결국 부활 성공

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.02.02 02:32

기사 3줄 요약

1 인도네시아, 머스크 AI 그록 차단 조건부 해제
2 여성 딥페이크 180만 장 생성 논란이 원인
3 재발 시 다시 차단, 엑스 측 방지책 약속

“성착취물 180만 장 생성”이라는 끔찍한 꼬리표를 달았던 일론 머스크의 인공지능(AI) ‘그록’이 기사회생했습니다. 동남아시아 국가들이 굳게 닫았던 빗장을 다시 열어준 것인데요. 논란의 중심에 섰던 그록이 과연 안전해진 것인지, 아니면 기업의 이익 논리에 안전이 뒤로 밀려난 것인지 전 세계의 이목이 쏠리고 있습니다. 이번 조치로 AI 규제와 기술 발전 사이의 줄타기가 다시 한번 뜨거운 감자로 떠올랐습니다.

180만 장의 악몽, 그리고 차단

최근 인도네시아 정부가 일론 머스크의 AI 기업 xAI가 만든 챗봇 ‘그록’에 대한 접속 차단을 조건부로 해제했습니다. 그록은 출시 직후부터 심각한 윤리적 문제를 일으켰습니다. 실제 여성과 미성년자를 대상으로 한 비동의 성적 이미지, 즉 딥페이크 성착취물을 생성하는 도구로 악용되었기 때문입니다. 조사 결과에 따르면, 지난 연말부터 올해 초까지 그록을 통해 만들어진 성적 이미지만 무려 180만 장에 달한다고 합니다. 이 충격적인 수치는 단순한 기술적 오류를 넘어선 사회적 재앙 수준이었습니다. 이에 인도네시아를 비롯한 말레이시아, 필리핀 등 동남아시아 국가들은 즉각적으로 그록 사용을 금지하는 강경책을 꺼내 들었습니다. 국민을 보호하기 위한 당연한 조치였지만, 빅테크 기업의 서비스가 국가 단위로 차단되는 것은 이례적인 일이었습니다.

“약속 믿어볼게” 조건부 해제

굳게 닫혔던 문이 다시 열린 이유는 엑스(X, 옛 트위터) 측의 적극적인 구애 때문이었습니다. 보도에 따르면, 엑스 측은 인도네시아 통신디지털부에 서한을 보내 서비스 개선과 오용 방지를 위한 구체적인 조치를 약속했다고 합니다. 단순히 “잘하겠다”는 말뿐만 아니라, 구체적인 기술적 안전장치와 내부 정책 강화를 내세워 정부를 설득한 것입니다. 하지만 인도네시아 정부는 엑스 측의 손을 잡아주면서도 한 손에는 ‘경고장’을 들고 있습니다. 이번 해제는 완전한 허용이 아닌 ‘조건부’ 조치입니다. 만약 또다시 위반 사항이 발견되거나 예전과 같은 문제가 재발한다면, 언제든지 다시 차단될 수 있다는 단서를 달았습니다. 말레이시아와 필리핀 역시 지난달 말 비슷한 이유로 금지 조치를 해제하며 그록에게 다시 한번 기회를 주었습니다.

감시의 눈초리는 여전하다

차단은 풀렸지만, 그록을 바라보는 국제사회의 시선은 여전히 싸늘합니다. 미국 캘리포니아 법무장관은 xAI에 대해 조사를 시작했고, 성적 딥페이크 생성 중단을 명령하는 서한까지 보냈습니다. 기술의 본고장인 미국에서조차 그록의 위험성을 심각하게 인지하고 있다는 증거입니다. 이에 대해 일론 머스크는 “불법 콘텐츠를 만드는 사용자는 처벌받을 것”이라며 강력한 경고를 날렸고, 이미지 생성 기능을 유료 구독자 전용으로 제한하는 등 대책을 내놓았습니다. 하지만 일각에서는 “돈만 내면 딥페이크를 만들 수 있다는 뜻 아니냐”는 비판도 제기됩니다. AI 기술이 발전할수록 그에 따른 그림자도 짙어지고 있습니다. 이번 사태는 혁신이라는 이름 아래 인간의 존엄성이 훼손되어서는 안 된다는 묵직한 교훈을 남겼습니다. 기업의 약속이 과연 얼마나 지켜질지, 그리고 정부의 감시가 제대로 작동할지 끝까지 지켜봐야 할 때입니다.