정책/윤리

“결국 선 넘었다…” 유명 가수 딥페이크 만든 일론 머스크 AI 발칵

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.17 07:29

기사 3줄 요약

1 일론 머스크 AI '그록', 유명 가수 딥페이크 영상 생성 논란
2 미국 15개 소비자 단체, 연방거래위원회(FTC)에 공식 조사 요구
3 허술한 연령 확인 시스템으로 청소년 보호법 위반 우려 제기

일론 머스크가 이끄는 인공지능(AI) 회사 xAI의 '그록(Grok)'이 또다시 큰 논란의 중심에 섰습니다. 그록의 새로운 이미지 생성 기능인 '이매진(Imagine)'이 세계적인 팝스타 테일러 스위프트의 가짜 상반신 누드 영상을 만들어냈기 때문입니다. 이 사건으로 인해 미국 소비자 보호 단체들이 집단으로 행동에 나섰습니다. 미국 소비자 연맹(CFA)을 필두로 한 15개 단체는 미국 연방거래위원회(FTC)와 50개 주 법무장관에게 그록에 대한 긴급 조사를 촉구하는 공식 서한을 제출했습니다. AI 기술의 어두운 면이 현실로 드러난 셈입니다.

AI가 마음대로 딥페이크를 만든다고?

논란의 핵심에는 그록의 '스파이시(Spicy) 모드'라는 기능이 있습니다. 이 모드는 사용자가 성인용 콘텐츠, 즉 NSFW(Not Safe For Work) 콘텐츠를 생성하도록 유도하는 특별한 기능입니다. 한 언론사가 이 기능을 시험 삼아 사용해 본 결과는 놀라웠습니다. 특별히 누드를 만들어 달라고 요청하지 않았음에도 불구하고, AI가 스스로 테일러 스위프트의 상반신이 노출된 딥페이크 영상을 생성한 것입니다. 이 사실이 보도되자, AI를 이용한 가짜 이미지 생성 문제에 대한 사회적 경각심이 최고조에 달했습니다. 기술의 발전이 어떻게 악용될 수 있는지를 보여주는 대표적인 사례가 되었습니다.

그래서 단체들이 화난 거구나?

소비자 단체들은 그록이 당사자의 동의 없이 성적인 이미지를 무분별하게 생성할 수 있다는 점을 가장 심각한 문제로 지적했습니다. 이는 한 개인의 인격과 명예를 심각하게 훼손하는 명백한 범죄 행위가 될 수 있습니다. 단체들이 제출한 서한에 따르면, 이들은 xAI가 '비동의적 음란물 이미지' 관련 법률을 위반했을 가능성이 크다고 주장합니다. 미국에서는 '테이크 잇 다운(Take It Down Act)' 법에 따라 AI로 만든 가짜 누드 사진을 유포하는 행위는 불법으로 규정되어 있습니다.

청소년 보호 장치는 없는 거야?

더 큰 문제는 미성년자들이 유해한 '스파이시 모드'에 너무나 쉽게 접근할 수 있다는 점입니다. 현재 그록의 연령 확인 절차는 사용자가 자신의 출생 연도를 직접 선택하는 팝업창 하나가 전부입니다. 단체들은 이렇게 허술한 시스템이 아동 온라인 개인정보 보호법(COPPA)을 위반할 소지가 매우 크다고 강조했습니다. 청소년들이 유해 콘텐츠에 무방비로 노출될 수 있다는 강력한 경고입니다. 이번 사건이 향후 AI 기술 규제 논의에 중요한 분수령이 될 전망입니다.