정책/윤리

“1420만 조회수 혐오 영상” 구글 AI가 만든 인종차별 콘텐츠의 실체

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.04 18:38

기사 3줄 요약

1 구글 AI '비오 3' 악용한 인종차별 영상 틱톡서 확산
2 수백만 조회수 기록하며 흑인, 남아시아인 등 혐오 조장
3 AI 기술의 어두운 이면, 플랫폼 책임론 다시 불거져

최신 인공지능(AI) 기술이 혐오와 차별을 퍼뜨리는 도구로 악용되고 있습니다. 구글이 개발한 영상 생성 AI ‘비오 3(Veo 3)’로 만든 인종차별 영상이 틱톡 같은 소셜 미디어에서 빠르게 번지며 수백만 건의 조회수를 기록하고 있습니다. AI 기술이 만든 영상은 순식간에 퍼져나가며 큰 사회적 문제로 떠올랐습니다. 이는 AI 기술의 발전이 가진 어두운 단면을 보여주는 대표적인 사례입니다. 기술의 편리함 이면에 숨겨진 위험성에 대한 경고음이 커지고 있습니다.

그래서 영상 내용은 뭔데?

문제의 영상들은 특정 인종에 대한 뿌리 깊은 차별적 고정관념으로 가득합니다. 흑인을 조롱하기 위해 오랫동안 사용된 ‘튀긴 닭고기와 수박’ 이미지가 반복적으로 등장하는 것이 한 예입니다. 경찰의 폭력적인 모습을 묘사하는 내용도 자주 보입니다. 흑인뿐만이 아닙니다. 일부 영상은 남아시아 사람들을 더럽다고 묘사하며 비하합니다. 한 영상에서는 남아시아 남성이 샤워기와 비누에 쫓기는 황당한 모습이 담겨 120만 회 넘게 재생됐습니다. 심지어 1420만 회라는 엄청난 조회수를 기록한 영상도 있었습니다. 대부분 영상에는 구글의 AI가 만들었다는 ‘비오’ 워터마크가 선명하게 찍혀있습니다.

구글이랑 틱톡은 뭐래?

구글은 지난달 ‘비오 3’를 공개하며 “유해한 콘텐츠를 막겠다”고 약속했습니다. 틱톡 역시 “증오 표현을 절대 용납하지 않는다”는 강경한 입장을 밝혀왔습니다. 틱톡은 문제가 된 계정들을 삭제했다고 밝혔습니다. 하지만 이런 공식 발표에도 불구하고, 일부 혐오 영상은 여전히 유튜브 등 다른 사이트에 남아있습니다. 기술 기업들의 대응이 확산 속도를 따라가지 못하는 ‘뒷북 대응’이라는 비판이 나오는 이유입니다.

AI, 이대로 괜찮을까?

이번 사건은 AI 기술의 윤리 문제와 플랫폼의 책임에 대해 중요한 질문을 던집니다. 챗GPT처럼 창의적인 활동을 돕는 긍정적 사례도 있지만, ‘비오 3’처럼 혐오를 생산하는 도구로 악용될 수도 있기 때문입니다. 전문가들은 AI 기술을 개발할 때부터 윤리적 가이드라인과 안전장치를 꼼꼼히 마련해야 한다고 지적합니다. 플랫폼 기업들 역시 AI가 만든 콘텐츠에 대한 관리 책임을 더 강화해야 한다는 목소리가 높습니다. 결국 기술 발전 속도에 맞춰, 이를 책임감 있게 사용할 사회적 논의가 시급해 보입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr