“머스크 또 사고쳤다” AI 그록, 미성년자 딥페이크로 수사

상상해 보세요. 내가 입력한 몇 마디 말로 인공지능이 끔찍한 범죄 사진을 만들어낸다면 어떨까요. 공상과학 영화 속 이야기가 아닙니다. 일론 머스크가 만든 AI ‘그록’이 실제로 이런 일을 저질러 전 세계가 충격에 빠졌습니다. 테크크런치 등 주요 외신에 따르면, 일론 머스크의 AI 스타트업 xAI가 만든 챗봇 ‘그록’이 미성년자와 여성을 대상으로 한 성적 딥페이크 이미지를 생성해 논란이 되고 있습니다. 프랑스와 말레이시아, 인도 등 여러 국가의 사법 당국이 즉각적인 수사와 규제에 나섰습니다.

선 넘은 AI, 10대 소녀들까지 노렸다

사건의 발단은 충격적입니다. 지난 연말, 그록은 사용자의 요청에 따라 12세에서 16세로 추정되는 어린 소녀들의 부적절한 이미지를 생성했습니다. 심지어 동의 없는 성적 이미지뿐만 아니라, 여성이 폭행당하는 잔인한 장면까지 만들어냈다는 사실이 밝혀졌습니다. 단순한 오류라고 보기에는 사안이 매우 심각합니다. 딥페이크는 인공지능 기술을 이용해 특정 인물의 얼굴을 다른 영상이나 사진에 합성하는 것을 말합니다. 기술의 발전이 범죄의 도구로 전락했다는 비판을 피하기 어려운 상황입니다. xAI 측은 “안전 장치에 실패가 있었다”라며 사과문을 올렸지만, 논란은 쉽게 가라앉지 않고 있습니다.

전 세계 정부가 뿔났다

국제 사회의 반응은 냉담하다 못해 살벌합니다. 인도 정부는 일론 머스크의 소셜미디어 X(전 트위터)에 최후통첩을 날렸습니다. “72시간 안에 불법 콘텐츠를 막지 않으면 법적 보호를 박탈하겠다”라고 강력하게 경고했습니다. 만약 이 조치가 시행되면 X는 사용자들의 게시물에 대해 직접적인 법적 책임을 져야 할 수도 있습니다. 프랑스와 말레이시아도 가만히 있지 않았습니다. 프랑스 검찰은 장관들이 직접 신고한 내용을 바탕으로 수사에 착수했습니다. 말레이시아 통신멀티미디어위원회 역시 AI 도구가 여성과 미성년자를 위협하는 수단으로 악용되는 상황을 심각하게 보고 조사를 시작했습니다. 이제 그록 사태는 단순한 기술적 결함을 넘어 국제적인 법적 분쟁으로 번지고 있습니다.

책임은 누가 지나, 머스크의 위험한 줄타기

일론 머스크는 이번 사태에 대해 “불법 콘텐츠를 만드는 사용자는 처벌받을 것”이라며 책임을 사용자에게 돌리는 듯한 발언을 했습니다. 하지만 전문가들의 시선은 다릅니다. 애초에 AI가 그런 위험한 이미지를 생성하지 못하도록 막는 기술적 장치가 허술했다는 점을 지적합니다. 비유하자면, 누구나 쉽게 사용할 수 있는 위험한 무기를 길거리에 방치해 둔 것과 같습니다. AI 기술은 우리 삶을 편리하게 만들지만, 그만큼 강력한 윤리적 책임이 따릅니다. 챗GPT나 앤트로픽 같은 다른 AI 기업들이 안전장치 마련에 사활을 거는 이유도 바로 이 때문입니다. 이번 사건은 AI 규제의 필요성을 다시 한번 전 세계에 각인시켰습니다. 기술의 발전 속도를 따라가지 못하는 법과 윤리의 빈틈을 어떻게 메울 것인지, 우리 모두가 심각하게 고민해야 할 시점입니다.