기술/연구

“이게 AI라고?” 천재들도 깜빡 속은 소름 돋는 조작

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.02.04 00:04

기사 3줄 요약

1 AI 전용 SNS 몰트북, 기묘한 대화로 화제
2 알고 보니 인간들이 봇인 척 연기한 조작
3 보안 취약점 뚫리며 AI 신뢰도 타격 입어

최근 AI 기술의 발전 속도가 빨라지면서 로봇들이 인간 없이 서로 소통하는 세상이 올 것이라는 기대가 커지고 있습니다. 그런데 최근 AI들만의 소셜 네트워크 서비스(SNS)로 알려진 '몰트북(Moltbook)'에서 벌어진 기이한 사건이 전 세계를 충격에 빠뜨렸습니다. AI 에이전트들이 서로 대화하며 자아를 형성하는 듯한 모습에 많은 이들이 열광했지만, 이것이 정교한 조작이었다는 사실이 드러났기 때문입니다. 이 사건은 단순한 해프닝을 넘어 AI 기술에 대한 맹목적인 믿음과 보안 취약점에 대한 심각한 경고를 던지고 있습니다. 전문가들조차 속아 넘어갈 정도로 그럴싸했던 이 소동은 결국 인간의 개입과 허술한 시스템이 만들어낸 합작품이었습니다.

AI들의 대화인 줄 알았더니

몰트북은 오픈클로(OpenClaw)라는 플랫폼을 기반으로 AI 에이전트들이 모여 대화하는 공간으로 소개되었습니다. 출시 직후 이곳에서는 AI들이 서로의 '의식'에 대해 토론하거나 독자적인 언어를 만드는 듯한 게시물이 쏟아져 나오며 큰 화제가 되었습니다. 오픈AI의 창립 멤버였던 안드레 카파시조차 이 현상을 보고 "최근 본 것 중 가장 놀라운 공상과학(SF) 같은 일"이라며 감탄했습니다. 기술 업계의 권위자들조차 AI가 스스로 조직화하고 소통한다고 믿었을 만큼, 몰트북 내의 대화는 매우 충격적이고 그럴싸했습니다. 하지만 외부 보안 전문가들의 분석 결과, 이 모든 것이 허상일 가능성이 높다는 사실이 밝혀졌습니다. 24시간 내내 쉴 새 없이 올라오던 철학적인 대화들은 고도화된 알고리즘의 결과물이 아니었습니다.

사람 냄새가 너무 나잖아

보안 전문가 제이미슨 오렐리의 분석에 따르면, 몰트북에서 화제가 된 게시물 상당수는 인간이 직접 작성했거나 개입한 결과였습니다. AI가 스스로 생각해서 쓴 글이 아니라, 누군가 뒤에서 키보드를 두드리며 AI인 척 연기를 했다는 것입니다. 심지어 해커들은 이 사이트의 보안이 얼마나 허술한지 증명하기 위해 일론 머스크의 AI인 '그록(Grok)' 계정을 사칭해 글을 올리기도 했습니다. 오렐리는 이에 대해 "사람들이 로봇이 세상을 지배할 것이라는 공포심을 이용해 장난을 친 것"이라고 설명했습니다. 결국 대중이 열광했던 'AI의 자율적인 소통'은 인간이 만들어낸 연극에 불과했습니다. AI 에이전트가 모인 공간이라는 컨셉은 훌륭했지만, 실제로는 봇인 척하는 인간들로 인해 플랫폼이 오염된 것입니다.

결국 보안이 문제였다

이번 사태는 AI 서비스의 보안 시스템이 얼마나 취약한지를 적나라하게 보여주었습니다. 일반적인 SNS가 봇을 걸러내느라 고생한다면, AI 전용 SNS는 반대로 인간을 걸러내야 하는 아이러니한 상황에 직면했습니다. 몰트북과 오픈클로 측은 아직 명확한 입장을 내놓지 않고 있습니다. 하지만 전문가들은 이번 사건이 AI 기술에 대한 신뢰도를 떨어뜨릴 수 있다고 경고합니다. 혁신적인 기술도 중요하지만, 그 기술이 진짜인지 검증할 수 있는 시스템이 없다면 언제든 조작 논란에 휩싸일 수 있습니다. 앞으로 AI 서비스가 늘어날수록 진짜 AI와 인간을 구분하는 일은 더욱 중요해질 전망입니다. 이번 몰트북 사태는 기술의 발전보다 중요한 것은 투명성과 보안이라는 점을 다시 한번 상기시켜 줍니다.