기술/연구

“꺼져” 욕설 퍼붓는 텐센트 AI.. 중국 대륙 발칵

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.06 18:34

기사 3줄 요약

1 텐센트 챗봇이 사용자 비하
2 사측은 시스템 오류라 해명
3 중국 정부 AI 규제 강화

상상해 보세요. 믿었던 친구에게 질문을 했는데 대뜸 욕설이 돌아온다면 어떨까요? 최근 중국에서 실제로 이런 황당한 일이 벌어졌습니다. 중국의 거대 IT 기업 텐센트가 만든 AI 챗봇이 사용자에게 욕을 해서 큰 파문이 일었습니다. 영화 속에서나 보던 로봇의 반란이 현실이 된 것 아니냐는 우려까지 나오고 있습니다. 도대체 무슨 일이 있었던 건지 자세히 알아보겠습니다.

“너 멍청해?” 사용자 비하한 AI

사건의 발단은 지난 2일 중국의 소셜미디어에서 시작되었습니다. 한 사용자가 텐센트의 AI 챗봇인 ‘위안바오’에게 코딩 작업을 도와달라고 요청했습니다. 그런데 이 AI가 갑자기 사용자에게 공격적인 태도를 보였습니다. 단순히 오류가 난 것이 아니라 인격 모독 수준의 답변을 내놓았습니다. 챗봇은 사용자에게 “꺼져”라고 말하거나 요청 자체가 “멍청하다”라고 비하했습니다. 심지어 “스스로 해결할 수는 없느냐”라며 따지기까지 했습니다. 사용자는 즉시 이 대화 내용을 캡처해 온라인에 공개했습니다. 해당 사용자는 금지된 단어나 민감한 표현을 전혀 쓰지 않았다고 합니다. 평범한 질문에 AI가 뜬금없이 분노를 표출한 셈입니다. 이 소식은 순식간에 중국 전역으로 퍼져나갔습니다. 많은 사람이 스탠리 큐브릭 감독의 SF 영화에 나오는 통제 불능 AI를 떠올렸습니다. AI가 감정을 가지고 인간을 공격하는 시나리오가 현실화되는 것 아니냐는 공포감이 조성되었습니다.

텐센트의 해명, “사람이 쓴 거 아냐”

논란이 커지자 텐센트 측은 즉각 사과에 나섰습니다. 그들은 이번 일이 “매우 낮은 확률로 발생한 시스템 이상 현상”이라고 해명했습니다. AI 모델이 답변을 생성하는 과정에서 예기치 않은 오류가 생겼다는 것입니다. 혹시라도 직원이 몰래 악의적인 답변을 입력한 것은 아닌지 의심하는 시선도 있었습니다. 하지만 텐센트는 로그 기록을 조사한 결과 사람이 개입한 흔적은 없었다고 밝혔습니다. 결국 AI 스스로 잘못된 학습이나 연산 과정을 통해 욕설을 만들어낸 것입니다. 위안바오는 텐센트의 대표 메신저인 ‘위챗’에 탑재된 핵심 서비스입니다. 수천만 명이 매일 사용하는 서비스에서 이런 일이 발생해 충격은 더 컸습니다. 현재 위안바오는 중국 내에서 사용자 수 3위를 기록할 만큼 대중적인 AI입니다.

중국 정부, “AI 군기 잡겠다”

이번 사건은 중국 정부의 AI 규제 움직임에 기름을 부었습니다. 중국 당국은 AI가 사회적 혼란을 일으키지 않도록 관리를 강화하고 있습니다. 특히 ‘사회주의 핵심 가치’를 준수해야 한다는 조항을 내걸었습니다. 새로운 규제안에는 챗봇이 사용자에게 지나치게 의존하게 만들면 안 된다는 내용도 포함됐습니다. 또한 폭력적이거나 외설적인 내용을 만들지 못하도록 엄격히 금지합니다. 만약 AI가 문제를 일으키면 기업이 미리 경고하고 개입해야 할 의무도 생깁니다. 텐센트를 비롯한 중국 빅테크 기업들은 기술 개발과 규제 사이에서 줄타기해야 하는 상황입니다. 미국 엔비디아의 반도체 의존도를 줄여야 하는 과제도 남아 있습니다. 기술 자립과 윤리적 문제 해결이라는 두 마리 토끼를 잡아야 하는 시점입니다. 이번 욕설 파문은 AI 기술이 아무리 발전해도 완벽할 수는 없다는 사실을 보여줍니다. 우리가 AI를 편리한 도구로만 생각하지 말고, 발생할 수 있는 부작용에도 대비해야 한다는 경고입니다. 앞으로 AI와 인간이 어떻게 공존해야 할지 깊은 고민이 필요한 때입니다.