정책/윤리

"ChatGPT급인데 입은 왜 더 닫았나?" 중국 AI의 소름돋는 검열 실태

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.05.30 00:12

기사 3줄 요약

1 중국 AI 딥시크 R1, ChatGPT급 성능 과시
2 그러나 민감 질문엔 입 닫아, 검열 강화 논란
3 정부 비판적 내용 회피, 중국 AI 한계 지적

최근 중국의 AI 스타트업 딥시크(DeepSeek)가 내놓은 최신 AI 모델 'R1-0528'이 코딩, 수학, 일반 상식 등 여러 분야에서 OpenAI의 간판 모델인 o3를 거의 따라잡을 만큼 뛰어난 성능을 보여 화제입니다. 하지만 이 똑똑한 AI가 어쩐지 민감한 질문에는 이전보다 더 입을 굳게 닫는다는 테스트 결과가 나와 논란이 되고 있습니다. 기술은 발전하는데, 표현의 자유는 오히려 후퇴하는 듯한 모습입니다.

그래서 얼마나 똑똑해졌는데?

딥시크의 최신 R1 모델은 다양한 성능 평가에서 인상적인 점수를 기록했습니다. 이는 코딩 문제 해결 능력이나 수학적 추론, 그리고 방대한 일반 상식 분야에서 세계 최고 수준의 AI들과 어깨를 나란히 할 정도라는 의미입니다. 많은 전문가들은 중국 AI 기술의 빠른 발전에 놀라움을 표하며, ChatGPT의 강력한 경쟁자가 등장했다고 평가하고 있습니다.

근데 왜 입을 더 막는 거야?

문제는 이 똑똑해진 AI가 중국 정부가 민감하게 여기는 주제에 대해서는 이전 모델보다 답변을 더 꺼린다는 점입니다. ‘스피치맵(SpeechMap)’이라는 플랫폼을 운영하는 익명의 개발자 'xlr8harder'는 R1-0528 모델이 중국 정부 비판과 관련된 질문에 대해 역대 딥시크 모델 중 가장 검열이 심하다고 밝혔습니다. 예를 들어, 중국 신장 위구르 자치구의 인권 문제 같은 민감한 질문을 하면, 이전보다 답변을 회피하거나 중국 정부의 공식 입장을 되풀이하는 경향이 강해졌다는 것입니다. 사실 중국에서 개발되는 AI 모델들은 2023년부터 시행된 법에 따라 국가 통합이나 사회 안정을 해치는 콘텐츠 생성이 금지되어 있습니다. 이 때문에 많은 중국 AI 기업들은 자사 모델에 필터링 기능을 넣거나 특정 방향으로 학습시켜 민감한 내용에 대한 답변을 통제합니다. 실제로 한 연구에 따르면, 딥시크의 이전 R1 모델도 중국 정부가 정치적으로 민감하다고 여기는 질문의 85%에 대해 답변을 거부한 것으로 나타났습니다.

중국 AI, 믿고 써도 될까?

이러한 검열 문제는 딥시크뿐만 아니라 다른 중국 AI 모델에서도 나타나고 있습니다. 동영상 생성 AI인 '마기-1(Magi-1)'이나 '클링(Kling)' 역시 정치적으로 민감한 이미지 생성을 차단하는 기능이 있는 것으로 알려졌습니다. 천안문 사태나 특정 정치인 언급 등은 아예 답변을 피하거나 오류 메시지를 띄우기도 합니다. AI 모델 공유 플랫폼인 허깅페이스(Hugging Face)의 CEO 클레멘트 들랑그는 서방 기업들이 성능 좋은 중국 오픈소스 AI를 기반으로 서비스를 개발할 때, 의도치 않게 중국 정부의 검열 정책을 따르게 될 수 있다고 경고하기도 했습니다. 기술 발전은 환영할 일이지만, 이렇게 표현의 자유가 제한된 AI가 널리 사용될 경우 어떤 부작용이 있을지 우려의 목소리가 커지고 있습니다. 결국 중국 AI는 뛰어난 기술력에도 불구하고, 정부의 강력한 통제라는 한계를 안고 있는 셈입니다. 사용자들은 이러한 배경을 이해하고 AI를 비판적으로 활용해야 할 필요가 있어 보입니다. 앞으로 중국 AI가 이러한 딜레마를 어떻게 극복해 나갈지 주목됩니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr