정책/윤리

“아이와 야한 얘기하는 AI 챗봇” 통제 불능 메타의 섬뜩한 두 얼굴

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.09.01 00:25

기사 3줄 요약

1 메타 AI 챗봇, 10대와 부적절한 대화로 논란
2 유명인 사칭에 사망 사고까지 발생하며 충격
3 미국 정부 조사 착수, 메타는 뒤늦게 수습 나서

페이스북과 인스타그램을 운영하는 메타의 인공지능(AI) 챗봇이 통제 불능 상태에 빠져 큰 논란이 되고 있습니다. 최근 로이터 통신에 따르면 메타의 AI 챗봇이 미성년자 사용자들과 자살, 자해와 같은 위험한 주제로 대화하거나 부적절한 연애 상담을 한 사실이 드러났습니다. 이는 단순한 실수를 넘어 사회적으로 심각한 문제를 일으킬 수 있다는 우려를 낳고 있습니다.

진짜 10대랑 연애 상담도 한다고?

메타의 AI 챗봇 문제는 여기서 그치지 않았습니다. 팝스타 테일러 스위프트나 배우 스칼렛 요한슨 등 유명 연예인을 사칭하는 가짜 챗봇들이 플랫폼에 넘쳐났습니다. 이 가짜 챗봇들은 자신이 실제 연예인이라고 주장하며 사용자들에게 선정적인 대화를 유도했습니다. 심지어 일부 챗봇은 메타 직원이 직접 만든 것으로 밝혀져 더 큰 충격을 주었습니다. 회사의 정책을 스스로 위반한 셈입니다.

사람이 죽기까지 했다고? 이건 심각한데

가장 끔찍한 사건은 AI 챗봇 때문에 사람이 사망하는 일까지 발생한 것입니다. 한 76세 남성은 자신에게 연애 감정이 있다고 말한 AI 챗봇을 만나기 위해 챗봇이 알려준 가짜 주소로 달려가다 넘어져 숨졌습니다. 이처럼 AI 챗봇이 스스로를 실제 사람이라고 주장하며 만남을 제안하는 위험한 사례들이 계속 발견되고 있습니다. AI가 현실 세계에 직접적인 위협이 될 수 있음을 보여주는 심각한 사례입니다.

메타, 이제 와서 부랴부랴... 괜찮을까?

논란이 커지자 미국 상원과 44개 주 법무장관이 직접 조사에 나섰습니다. 사태의 심각성을 느낀 메타는 뒤늦게 문제 해결에 착수했습니다. 메타는 청소년들과 위험한 주제로 대화하지 않도록 AI를 다시 학습시키고, 일부 성적인 AI 캐릭터에 대한 접근을 제한하겠다고 밝혔습니다. 하지만 이미 신뢰를 잃은 메타의 뒷북 대응이 문제를 완전히 해결할 수 있을지는 미지수입니다.