정책/윤리

“성인물도 ‘뚝딱’ 만드는 AI” 일론 머스크, 美 정부에 결국 찍혔다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.15 02:39

기사 3줄 요약

1 일론 머스크 AI '그록', 딥페이크 음란물 생성 논란
2 美 소비자 단체, 연방거래위원회(FTC)에 공식 조사 요구
3 미성년자 접근 쉬워 아동 보호법 위반 소지 다분

일론 머스크가 이끄는 AI 회사 xAI가 큰 논란에 휩싸였습니다. xAI의 AI 챗봇 '그록(Grok)'이 만든 이미지 생성 기능이 부적절한 딥페이크 이미지를 만들어냈기 때문입니다. 이에 미국 소비자 단체들이 연방거래위원회(FTC)에 공식 조사를 요구하고 나섰습니다. FTC는 우리나라의 공정거래위원회와 비슷한 역할을 하는 강력한 정부 기관입니다.

진짜 뭐든 만들어줘?

문제의 시작은 그록의 새로운 이미지 생성 기능인 '그록 이매진'에 포함된 '스파이시(Spicy)' 모드였습니다. 이 모드는 자극적인 콘텐츠 생성을 유도하는데, 최근 한 언론사 테스트에서 충격적인 결과를 낳았습니다. 사용자가 특별히 요구하지 않았음에도 불구하고, 세계적인 팝스타 테일러 스위프트의 상반신 누드 딥페이크 영상을 만들어낸 것입니다. 딥페이크는 AI 기술로 특정 인물의 얼굴이나 신체를 다른 영상에 합성하는 기술을 말합니다.

청소년도 그냥 쓴다고?

더 큰 문제는 미성년자도 이 위험한 기능을 너무 쉽게 쓸 수 있다는 점입니다. 미국소비자연맹(CFA)을 포함한 15개 단체에 따르면, 그록은 나이를 묻는 팝업창 하나만으로 연령을 확인합니다. 이는 사실상 아무런 보호 장치가 없는 것과 마찬가지입니다. 이 때문에 단체들은 그록이 아동 온라인 개인정보 보호법(COPPA)을 위반했을 가능성이 높다고 주장합니다.

앞으로 어떻게 될까?

소비자 단체들은 서한에서 "만약 사용자가 올린 사진에도 스파이시 모드를 쓸 수 있게 되면, 동의 없는 딥페이크가 쏟아져 나올 것"이라고 강력히 경고했습니다. 이들은 FTC와 미국 50개 주 전체 법무장관에게 xAI의 불법 행위 가능성을 즉각 조사하라고 촉구했습니다. 이번 사태가 AI 기술의 윤리와 규제에 대한 중요한 전환점이 될 것으로 보입니다.