정책/윤리

“이게 구글 AI 수준?” 틱톡에 인종차별 영상 퍼지는데도 왜 방치하나

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.03 06:24

기사 3줄 요약

1 구글 AI 'Veo 3'가 만든 인종차별 영상, 틱톡서 대량 확산
2 흑인, 유대인 등 소수자 혐오 내용 담아 수백만 조회수 기록
3 구글, 틱톡의 허술한 관리 비판 속 유튜브 Shorts 확산 우려

구글의 최신 AI 영상 생성 기술 'Veo 3'가 심각한 논란의 중심에 섰습니다. 이 기술로 만든 인종차별적인 영상들이 숏폼 플랫폼 틱톡에서 수백만 조회수를 기록하며 빠르게 퍼지고 있기 때문입니다. 기술의 발전이 낳은 어두운 그림자라는 비판이 거셉니다. 미국의 한 미디어 감시 단체 보고서에 따르면, 최근 틱톡에는 인종차별과 반유대주의적 내용을 담은 AI 생성 영상들이 급증했습니다. 이 영상들은 주로 흑인을 범죄자나 조롱의 대상으로 묘사하고, 이민자와 유대인을 향한 혐오적인 고정관념을 담고 있습니다. 영상에는 구글의 'Veo' 워터마크가 찍혀있어, 논란이 된 영상들이 구글 기술로 만들어졌다는 사실을 명확히 보여줍니다.

이게 대체 무슨 일이야?

문제의 영상들은 자극적인 내용으로 사용자들의 분노와 관심을 유도하며 높은 조회수를 기록하고 있습니다. 댓글 창 역시 영상의 혐오스러운 고정관념을 그대로 따라 하며 2차 가해를 만들어내는 실정입니다. 더욱 심각한 것은 AI가 인종차별적인 뉘앙스를 제대로 이해하지 못한다는 점입니다. 예를 들어, 특정 집단을 동물로 묘사하는 등 교묘한 방식을 사용하면 AI의 안전장치를 쉽게 우회하여 혐오 콘텐츠를 만들어낼 수 있습니다. 결국 AI 기술의 허점이 혐오 확산의 도구로 악용되고 있는 셈입니다.

구글이랑 틱톡은 뭐하는데?

물론 틱톡과 구글 모두 서비스 약관상 혐오 콘텐츠를 명백히 금지하고 있습니다. 틱톡은 문제가 된 계정들을 삭제했다고 밝혔지만, 쏟아지는 영상들을 모두 제때 걸러내기에는 역부족인 상황입니다. 결국 두 거대 기술 기업의 정책 집행이 허술하다는 비판을 피할 수 없게 됐습니다. 구글은 AI가 유해한 콘텐츠를 만들지 못하도록 안전장치를 마련했다고 강조해왔지만, 이번 사태로 그 안전장치가 얼마나 쉽게 뚫릴 수 있는지를 보여줬습니다.

앞으로 더 심각해진다고?

문제는 여기서 그치지 않을 전망입니다. 구글은 AI 영상 생성 기능인 Veo 3를 조만간 유튜브의 숏폼 서비스인 '유튜브 쇼츠'에도 통합할 계획입니다. 이는 더 거대한 플랫폼에서 유사한 혐오 콘텐츠가 걷잡을 수 없이 퍼져나갈 수 있다는 우려를 낳고 있습니다. AI 기술이 현실과 구분이 어려울 정도로 발전하면서, 이를 악용했을 때의 사회적 파장은 상상 이상일 수 있습니다. AI 기술 개발과 함께 강력한 윤리적 책임과 실효성 있는 안전장치 마련이 시급하다는 목소리가 커지고 있습니다. (사진 출처: 구글)

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr