정책/윤리

“우울증도 감시한다..” 중국, 세계서 가장 독한 AI 규제

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.12.30 19:25

기사 3줄 요약

1 중국이 세계 최강 AI 챗봇 규제 초안 발표
2 사용자 감정 감시하고 중독되면 강제 개입
3 사회주의 가치 준수 안 하면 강력 처벌 예고

중국이 인공지능(AI) 챗봇에 대해 세계에서 가장 엄격한 수준의 ‘족쇄’를 채우려 하고 있습니다. 중국 사이버공간관리국(CAC)은 지난 27일 AI 서비스 제공자에게 강력한 책임을 묻는 새로운 규제 초안을 전격 발표했습니다. 더 버지(The Verge)와 아스 테크니카(Ars Technica) 등 주요 외신에 따르면, 이번 규제안은 단순한 기술 통제를 넘어 사용자의 감정까지 들여다보겠다는 내용을 담고 있어 큰 충격을 주고 있습니다.

사용자 감정까지 실시간으로 감시한다

이번 규제안의 핵심은 AI가 사용자의 감정 상태를 실시간으로 모니터링해야 한다는 점입니다. 단순히 대화를 나누는 것을 넘어, 사용자가 AI에 지나치게 의존하거나 중독될 조짐이 보이면 AI가 직접 개입해야 합니다. 아스 테크니카의 분석에 따르면, 사용자가 2시간 연속으로 챗봇을 사용할 경우 강제로 ‘휴식 권유 팝업’을 띄워야 한다는 구체적인 조항까지 포함되었습니다. 만약 사용자가 극심한 감정 변화를 보이거나 심리적으로 불안해 보이면, 기계가 아닌 인간 상담원에게 즉시 연결해야 하는 의무도 생깁니다. 이는 AI가 인간의 정신 건강까지 관리하고 통제하는 ‘디지털 감시자’ 역할을 하게 된다는 뜻입니다.

미성년자와 노인은 보호자 등록 필수

사회적 약자를 보호한다는 명분 아래 전례 없는 ‘강제 신고 시스템’도 도입됩니다. 미성년자와 노인이 AI 서비스를 이용하려면 반드시 보호자를 등록해야 하는 시스템이 의무화될 예정입니다. 만약 대화 도중 자살이나 자해 같은 위험한 단어가 감지되면, AI는 즉시 등록된 보호자에게 이 사실을 알리고 인간 상담원을 연결해야 합니다. 더 버지는 이에 대해 “세계적으로 유례를 찾아보기 힘든 강력한 보호 조치”라고 평가하면서도, 사생활 침해 우려가 있다고 지적했습니다. AI가 폭력이나 범죄를 부추기거나 감정을 조작하는 행위도 엄격히 금지되며, 이를 어길 시 강력한 처벌을 받게 됩니다.

사회주의 가치 훼손하면 바로 퇴출

이번 규제의 또 다른 목적은 역시나 ‘사상 통제’에 있다는 분석이 지배적입니다. 규제안에는 AI가 생성하는 모든 콘텐츠가 ‘사회주의 핵심 가치’를 반드시 준수해야 한다는 조항이 못 박혀 있습니다. 국가 안보를 위협하거나, 허위 정보를 퍼뜨리거나, 불법적인 종교 활동을 부추기는 내용은 원천 차단됩니다. 결국 기술 발전도 중요하지만, 체제 유지와 사회 통제가 최우선이라는 중국 정부의 속내가 그대로 드러난 셈입니다. 이 규제안은 내년 1월 25일까지 의견을 수렴한 뒤 최종 확정될 예정이라, 전 세계 AI 업계가 숨죽여 지켜보고 있습니다.