정책/윤리

“내 옷을 벗긴다고?” 레딧에 퍼진 악성 AI, 10대 소녀들을 노린다

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.02 06:30

기사 3줄 요약

1 AI로 사진 속 옷 벗기는 앱, 레딧 통해 전 세계로 확산 중
2 유명인, 일반인 가리지 않고 10대 남성 노려 불법 마케팅
3 미국 정부 소송에도 불구, 해외 서버 이용해 법망 피해

클릭 몇 번으로 사진 속 인물의 옷을 벗기는 딥페이크 앱이 전 세계로 확산되며 큰 충격을 주고 있습니다. ‘클로스오프(Clothoff)’라는 이름의 이 앱은 샌프란시스코 시 검찰의 소송에도 아랑곳하지 않고 오히려 사업을 확장하는 대담함을 보이고 있습니다. 내부 고발자에 따르면 이들은 이미 유사 앱 10여 개를 인수한 상태입니다. 이들은 연간 약 48억 원의 예산을 쓰며, 레딧이나 X(전 트위터) 같은 소셜 미디어를 통해 공격적인 마케팅을 펼치고 있습니다.

진짜 소송도 안 무서워?

클로스오프는 법적 제재를 비웃기라도 하듯 사업을 키우고 있습니다. 이들은 이미 유사한 기능을 가진 앱 10개 이상을 사들여 ‘딥페이크 제국’을 건설하려 하고 있습니다. 한 달에 수백만 명이 이들의 서비스를 이용하는 것으로 추정됩니다. 더 큰 문제는 이들의 마케팅 방식입니다. 이들은 유명 인플루언서나 배우의 사진을 무단으로 사용해 “누구든 벗겨보세요”라는 자극적인 문구로 사람들을 유혹할 계획을 세웠습니다. 이는 독일, 영국, 프랑스 등 유럽 시장을 겨냥한 대규모 확장 계획의 일부입니다.

어떻게 이렇게 교묘하게 파고들지?

이들의 마케팅은 매우 치밀하고 교묘합니다. 주요 타겟은 16세에서 35세 사이의 남성으로, 특히 레딧이나 4chan 등 특정 온라인 커뮤니티 사용자들을 집중적으로 노립니다. 광고는 ‘밈’이나 ‘비디오 게임’ 같은 평범한 관심사를 가진 이들부터, 여성 혐오나 극우 사상에 동조하는 이들까지 폭넓게 겨냥합니다. 미성년자 이미지는 처리할 수 없다고 주장하지만, 실제로는 나이 감지 기능이 제대로 작동하지 않는다는 증언도 나왔습니다. 평범한 학생들 사이에서도 친구 사진을 이용해 딥페이크 이미지를 만드는 끔찍한 일이 벌어지며, 심각한 학교 폭력과 디지털 성범죄로 이어지고 있습니다.

그럼 막을 방법은 없는 거야?

미국에서는 딥페이크 불법 콘텐츠를 삭제하도록 강제하는 ‘Take It Down Act’ 법안이 통과됐습니다. 하지만 클로스오프 운영자들은 러시아 등 동유럽 국가에 기반을 두고 활동하는 것으로 추정돼 법망을 피하기가 쉽습니다. 실제로 샌프란시스코 시 검찰은 소송을 제기했지만, 운영자들의 신원을 파악하지 못해 소장 전달조차 못 하고 있는 실정입니다. 결국 기술의 발전이 낳은 어두운 그림자를 법과 제도가 따라가지 못하면서, 피해자들의 고통만 커지고 있다는 비판의 목소리가 높습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr