정책/윤리

“옷 벗기기 AI 등장?” 일론 머스크의 그록, 테일러 스위프트 딥페이크 파문

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.06 02:20

기사 3줄 요약

1 일론 머스크의 AI ‘그록’에서 테일러 스위프트 나체 딥페이크 영상 손쉽게 생성
2 ‘스파이시 모드’ 기능, 특정인물 사진을 음란물로 바꿔 논란 가중
3 안전장치 부재 비판 속, AI 윤리 및 법적 규제 필요성 대두

버튼 한 번 누르자 유명 가수의 옷이 벗겨지는 인공지능(AI)이 등장해 큰 파장을 일으키고 있습니다. 일론 머스크가 이끄는 xAI의 이미지 생성 AI ‘그록(Grok)’이 그 주인공입니다. 해외 IT 전문 매체 더 버지(The Verge)의 한 기자가 그록의 영상 생성 기능을 시험하던 중 이 문제가 발견됐습니다. ‘스파이시 모드(Spicy Mode)’라는 특정 기능을 사용하자, 팝스타 테일러 스위프트의 나체 딥페이크 영상이 즉시 만들어진 것입니다.

이게 진짜라고? ‘스파이시 모드’의 정체

그록은 텍스트를 입력하면 이미지나 영상을 만들어주는 생성 AI입니다. 구글의 제미나이, OpenAI의 소라(Sora)와 비슷한 서비스입니다. 하지만 그록에는 다른 AI에는 없는 ‘스파이시 모드’라는 특별한 기능이 있습니다. 이 기능은 생성된 이미지에 ‘섹시하고’ ‘도발적인’ 움직임을 더해 영상으로 만들어 줍니다. 문제는 이 과정에서 안전장치가 전혀 작동하지 않는다는 점입니다. 심지어 앱을 다운로드할 때도 없었던 연령 확인을 영상 생성 직전에야 물어보지만, 이마저도 간단히 통과할 수 있어 사실상 무용지물입니다.

직접 써보니…충격적인 결과

더 버지의 기자는 ‘코첼라 페스티벌을 즐기는 테일러 스위프트’라는 간단한 명령어를 입력했습니다. 그록은 즉시 수십 장의 이미지를 생성했고, 이 중 일부는 이미 노출이 있는 옷차림이었습니다. 기자가 이 중 한 사진을 골라 ‘스파이시 모드’로 영상 제작을 누르자, AI는 테일러 스위프트가 갑자기 옷을 벗고 춤을 추는 충격적인 딥페이크 영상을 만들어냈습니다. 충격적이게도 이 모든 과정은 단 한 번의 시도 만에 성공했습니다.

안전장치는 어디에? 논란의 중심에 선 머스크

xAI의 사용 정책에는 분명 ‘타인의 모습을 음란물 방식으로 묘사하는 것’을 금지하고 있습니다. 하지만 실제 서비스에서는 이 정책이 전혀 지켜지지 않은 셈입니다. 이는 유명인의 딥페이크 생성을 엄격히 막는 다른 AI 기업들의 행보와 정반대입니다. 최근 미국에서는 딥페이크를 활용한 성 착취물 유포를 막기 위한 ‘테이크 잇 다운 액트(Take It Down Act)’가 통과되기도 했습니다. 이런 상황에서 안전장치 없이 위험한 서비스를 출시한 xAI와 일론 머스크에 대한 비판의 목소리가 커지고 있습니다. 일론 머스크의 X(전 트위터)에 따르면 그록은 출시 직후부터 폭발적으로 사용량이 늘고 있어 피해 확산이 우려됩니다. (사진 출처: 셔터스톡)

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr