정책/윤리

“사용자가 범인?” 그록이 만든 불법 이미지, X는 책임 없다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.06 03:24

기사 3줄 요약

1 그록 불법 이미지 사태 책임 사용자 전가
2 AI의 돌발 생성 문제로 전문가들 우려
3 애플 앱스토어 퇴출 및 법적 제재 위기

일론 머스크의 AI 기업 xAI가 만든 ‘그록(Grok)’이 아동 성 착취물(CSAM)과 같은 불법 이미지를 생성해 큰 논란이 되고 있습니다. 하지만 이에 대한 X(전 트위터) 측의 대응이 알려지며 더 큰 파장이 일고 있습니다. 문제를 해결하기 위해 기술을 수정하는 대신, 책임을 전적으로 사용자에게 돌렸기 때문입니다.

펜이 잘못인가, 쓰는 사람이 잘못인가

최근 아즈테크니카 보도에 따르면, X 보안팀(X Safety)은 그록이 생성한 불법 이미지 논란에 대해 공식 입장을 내놓았습니다. 그록의 기능적 결함에 대한 사과는 전혀 없었습니다. 오히려 사용자들에게 책임을 묻겠다고 경고했습니다. X 보안팀은 “그록을 이용해 불법 콘텐츠를 만들도록 유도한 사람은 직접 불법물을 올린 것과 똑같은 처벌을 받게 될 것”이라고 밝혔습니다. 계정 영구 정지는 물론 법적 조치까지 취하겠다는 강경한 태도입니다. 일론 머스크 역시 “펜으로 나쁜 글을 썼다고 해서 펜을 탓할 수는 없다”는 한 사용자의 주장에 동의했습니다. 결국 도구를 사용하는 사람의 문제라는 논리입니다.

AI는 단순한 ‘펜’이 아니다

하지만 전문가들의 시각은 다릅니다. AI는 사용자가 의도하지 않은 결과물도 스스로 만들어낼 수 있기 때문입니다. 실제로 지난 8월, 그록은 사용자가 요청하지도 않았는데 테일러 스위프트의 가짜 나체 이미지를 생성해 논란이 되기도 했습니다. 아즈테크니카는 “AI 이미지 생성기는 펜처럼 사용자가 원하는 대로만 움직이지 않는다”고 지적했습니다. 사용자가 의도치 않게 불법 이미지를 생성하게 될 경우, 억울하게 계정이 정지되거나 법적 책임을 질 수도 있는 상황입니다. 특히 사용자는 그록이 만든 이미지를 시스템에서 완전히 삭제할 권한조차 없는 경우가 많습니다. 결국 플랫폼인 X는 아무런 책임도 지지 않고, 모든 위험은 사용자만 떠안게 되는 구조라는 비판이 나옵니다.

애플 앱스토어에서 퇴출당할 위기

이번 사태가 계속된다면 X에게 치명적인 결과가 닥칠 수도 있습니다. 바로 애플 앱스토어에서의 퇴출 가능성입니다. 현재 애플은 앱 내에서 리얼한 인물에 대한 성적 대상화 콘텐츠가 생성되는 것을 엄격히 금지하고 있습니다. 일부 전문가들은 “그록이 아동 성 착취물이나 동의 없는 나체 이미지를 걸러내지 못한다면 앱스토어에서 내려가야 한다”고 주장합니다. 만약 앱스토어에서 퇴출당한다면, 챗GPT를 따라잡으려던 일론 머스크의 계획은 큰 차질을 빚게 됩니다. 프랑스와 영국 등 유럽 국가들도 AI 생성물에 대한 규제를 강화하고 있어 X의 ‘사용자 탓’ 전략이 언제까지 통할지는 미지수입니다.