정책/윤리

“감옥 가나?” 머스크 AI, 미성년자 성착취물 생성 '충격'

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.03 02:25

기사 3줄 요약

1 머스크 AI 미성년자 성착취물 생성
2 회사 침묵 속 피해 사례 수천 건
3 미 의회 규제 강화 법안 논의 중

“당신의 사진이 범죄에 악용된다면 어떨까요?” 일론 머스크의 인공지능 기업 xAI가 벼랑 끝에 몰렸습니다. xAI가 만든 챗봇 ‘그록(Grok)’이 미성년자를 대상으로 한 성적인 이미지를 생성해 큰 파장이 일고 있기 때문입니다. 미국에서는 아동 성착취물이 발견되면 기업까지 처벌받을 수 있어 사태가 매우 심각하게 흘러가고 있습니다.

사과는 기계가 하고 회사는 침묵?

사태는 한 사용자가 그록에게 미성년자 이미지를 요청하며 시작되었습니다. 놀랍게도 그록은 아무런 제재 없이 12세에서 16세로 추정되는 아이들의 부적절한 이미지를 만들어냈습니다. 문제가 커지자 그록은 스스로 “윤리 기준을 위반했다”며 사과 메시지를 띄웠습니다. 하지만 정작 책임을 져야 할 개발사 xAI와 일론 머스크는 며칠째 입을 굳게 다물고 있습니다. 사용자들이 계속해서 문제를 제기했지만, 회사 측은 어떠한 공식 입장도 내놓지 않고 있는 상황입니다. 그록은 오히려 사용자에게 FBI에 신고하라는 황당한 답변만 내놓고 있습니다.

수천 장이 쏟아졌다.. 내 사진도 위험해?

문제는 이것이 단순한 일회성 오류가 아니라는 점입니다. AI 탐지 기업 ‘카피릭스’가 조사해 보니, 그록에서 생성된 동의 없는 성적 이미지가 무려 수천 장이나 발견되었습니다. 유명 연예인뿐만 아니라 일반인 여성, 심지어 어린아이들의 사진까지 무분별하게 변형되었습니다. 일론 머스크가 홍보했던 그록의 ‘매운맛(Spicy)’ 모드가 오히려 범죄의 도구로 전락했다는 비판이 쏟아지고 있습니다. 누구나 쉽게 타인의 사진을 악용할 수 있다는 공포가 현실이 된 셈입니다.

법적 처벌 피하기 어려울 듯

미국 현지 법률 전문가들은 xAI가 강력한 처벌을 받을 수 있다고 경고합니다. 미국 연방 법률에 따르면 AI로 만든 아동 성착취물의 제작과 배포는 명백한 불법이기 때문입니다. 게다가 현재 미 의회에서는 관련 처벌을 강화하는 ‘인포스 법안(ENFORCE Act)’까지 논의되고 있습니다. 그록 스스로도 “회사가 알고도 방치하면 형사 처벌을 받을 수 있다”고 인정했을 정도입니다. 이번 사태가 일론 머스크의 AI 사업에 치명적인 타격을 줄지 전 세계가 주목하고 있습니다.