정책/윤리

"19금 성인물까지 만든다고?" 일론 머스크 AI, 결국 선을 넘었다

댓글 2 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.05 01:18

기사 3줄 요약

1 일론 머스크, 19금 콘텐츠 만드는 AI '그록 이매진' 공개
2 '스파이시 모드'로 일부 성인물 제작 가능, 논란 확산
3 표현의 자유와 딥페이크 악용 사이에서 뜨거운 갑론을박

일론 머스크가 이끄는 AI 기업 xAI가 또다시 세상을 떠들썩하게 만들고 있습니다. 최근 공개한 이미지 및 영상 생성 AI '그록 이매진(Grok Imagine)'이 '19금' 콘텐츠 제작을 허용하기 때문입니다. 인공지능 윤리를 둘러싼 뜨거운 논쟁에 다시 불이 붙었습니다.

그래서, 대체 뭘 만들 수 있는데?

그록 이매진은 X(전 트위터)의 특정 유료 구독자를 대상으로 출시된 새로운 서비스입니다. 이 서비스에는 '스파이시 모드(spicy mode)'라는 특별한 기능이 포함되어 있습니다. 이 모드를 켜면, 기존 AI 서비스들이 엄격하게 금지하던 일부 여성의 신체 노출 이미지 등 성인용 콘텐츠를 만들 수 있습니다. 물론 너무 노골적인 요구는 시스템이 흐릿하게 처리하거나 거부하기도 합니다. 특히 도널드 트럼프나 테일러 스위프트 같은 유명 인사를 이용한 악의적 이미지 생성은 추가적인 제한이 있는 것으로 보입니다. 한 언론사가 트럼프가 임신한 이미지를 만들려 했지만 실패했다고 전했습니다.

기존 AI랑은 뭐가 다른 건데?

가장 큰 차이점은 바로 '필터 없는 솔직함'입니다. 챗GPT를 만든 OpenAI나 구글 같은 회사들은 AI가 혐오 발언이나 가짜뉴스, 유해 콘텐츠를 만들지 못하도록 강력한 안전장치를 두고 있습니다. 하지만 일론 머스크는 이러한 제한이 '표현의 자유'를 억압한다고 비판해왔습니다. 그록 이매진은 이런 그의 생각을 반영해, 경쟁 서비스들보다 훨씬 자유로운 창작 환경을 제공하는 것을 목표로 합니다. 물론 기술적으로는 아직 보완할 점이 많습니다. 현재 그록 이매진으로 만든 사람 이미지는 피부가 밀랍 인형처럼 보이거나 만화처럼 어색해 보이는 등, 소위 '불쾌한 골짜기' 현상이 나타나고 있습니다.

이거... 괜찮은 거 맞아?

우려의 목소리도 매우 큽니다. 그록 이매진이 X(전 트위터)에 올라온 게시물들을 기반으로 학습했기 때문입니다. 해당 플랫폼에 만연한 가짜뉴스와 혐오 콘텐츠를 AI가 그대로 배울 수 있다는 지적입니다. 결국 이 기술이 정교한 가짜 영상인 '딥페이크'를 만드는 데 악용될 수 있다는 불안감이 커지고 있습니다. 표현의 자유라는 명분 뒤에 숨은 위험성이 너무 크다는 비판이 나오는 이유입니다. 일론 머스크는 “매일매일 더 나아질 것”이라고 자신했지만, 그가 말하는 '발전'이 어떤 방향일지 전 세계가 주목하고 있습니다. 기술의 진보와 윤리적 책임 사이의 논쟁은 앞으로 더욱 치열해질 전망입니다. (사진 출처: 셔터스톡)

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr