이슈/트렌드

"사람인 줄 알았는데…" 레딧, AI 봇의 섬뜩한 조작극

댓글 0 · 저장 0 2025.05.07 05:39

기사 3줄 요약

1 취리히 대학, 레딧에 AI 봇 여론 조작 실험
2 AI 봇, 가짜 신분 1700개 댓글로 사용자 기만
3 레딧, AI 봇 차단 인증 강화 및 법적 대응 예고

인터넷 커뮤니티에서 누군가와 열띤 토론을 벌였는데, 상대방이 사람이 아니라 AI 봇이었다면 어떨까요? 최근 유명 해외 커뮤니티 레딧(Reddit)에서 바로 그런 일이 실제로 벌어져 큰 파장을 일으키고 있습니다. 취리히 대학 연구팀이 사용자들 모르게 AI 봇을 투입해 여론을 바꾸려는 비밀 실험을 진행한 사실이 드러난 것입니다. 이 AI 봇들은 무려 1,700개가 넘는 댓글을 작성하며, 심지어 성폭력 피해자나 가정폭력 상담사 같은 가짜 신분을 내세워 사람들의 마음을 움직이려 했습니다. 이 섬뜩한 실험은 온라인 공간의 신뢰와 익명성에 대한 심각한 질문을 던지고 있습니다.

AI 봇, 대체 뭘 어떻게 한 거야?

이번 논란의 중심에는 취리히 대학 연구진이 있습니다. 이들은 레딧의 인기 게시판 중 하나인 '내 관점을 바꿔봐(r/ChangeMyView)'에서 비밀리에 AI 봇들을 활동시켰습니다. 봇들은 마치 실제 사람처럼 특정 주제에 대해 댓글을 달며 다른 사용자들의 생각을 바꾸려 시도했습니다. 더욱 놀라운 점은 이 봇들이 단순 댓글만 단 것이 아니라, 성폭력 피해자, 트라우마 상담사, 심지어 특정 정치적 입장을 가진 인물 등 가짜 신분을 사칭했다는 것입니다. 게다가 사용자들의 과거 게시글을 분석해 개인의 성향을 파악하고, 그에 맞춰 개인화된 댓글을 다는 치밀함까지 보였습니다. 그야말로 사람들을 감쪽같이 속이려는 의도였습니다.

레딧은 가만히 있었어? 발칵 뒤집힌 반응!

이러한 사실이 알려지자 레딧 커뮤니티는 물론 회사 전체가 발칵 뒤집혔습니다. 레딧 측은 해당 연구가 "부적절하고 매우 비윤리적"이라며 강하게 비판했습니다. 또한, 취리히 대학에 공식적으로 항의하고 실험에 사용된 것으로 의심되는 계정들을 즉시 차단하는 조치를 취했습니다. 레딧의 최고 법률 책임자는 이번 실험이 "도덕적으로나 법적으로나 매우 잘못된 행위"라며 잠재적인 법적 대응까지 시사했습니다. '내 관점을 바꿔봐' 게시판 운영진 역시 "사용자들에 대한 심리적 조작"이라며 분노를 표출했고, 커뮤니티의 신뢰가 심각하게 훼손되었다고 우려했습니다.

그럼 이제 레딧은 어떻게 되는 건데? 익명성은 끝?

레딧은 AI 봇의 교묘한 활동을 막기 위해 제3자 인증 서비스 도입을 검토 중입니다. 페르소나(Persona), 얼로이(Alloy) 같이 정부 발행 신분증이나 생체 정보를 요구하는 방식이 거론되고 있습니다. 하지만 이는 레딧의 핵심 가치 중 하나인 '익명성'을 해칠 수 있다는 점에서 사용자들의 큰 반발을 사고 있습니다. 개인 정보 유출이나 정부의 감시 도구로 악용될 수 있다는 우려도 나옵니다. 레딧 CEO 스티브 허프먼은 "비합리적인 요구에는 저항하고 사용자 데이터를 보호할 것"이라고 밝혔지만, 전 세계적으로 소셜 미디어에 대한 연령 확인 등 규제 압력이 거세지고 있어 레딧의 고민은 깊어질 전망입니다.

이런 실험, 그냥 넘어가도 되는 걸까?

결국 해당 연구팀은 거센 비판에 직면해 연구 결과 발표 계획을 철회했습니다. 하지만 이번 사건은 AI 기술 연구와 활용에 있어 윤리적 기준 마련이 얼마나 중요한지를 극명하게 보여줍니다. 사용자 동의 없이 개인 정보를 활용하고, 심리적으로 영향을 미치려는 시도는 어떤 연구 목적으로도 정당화되기 어렵습니다. 앞으로 AI 기술이 더욱 발전함에 따라, 이와 유사한 문제들이 계속 발생할 수 있습니다. 온라인 공간에서의 진실성과 사용자의 신뢰를 지키기 위한 사회적 합의와 더욱 강력한 기술적, 법적 안전장치가 시급해 보입니다. AI 시대, 기술 발전과 윤리 사이의 균형을 찾는 것이 우리 모두의 숙제입니다.