기술/연구

”더는 못 속는다!” 딥페이크·가짜뉴스 잡는 ‘AI 경찰’ 곧 출동?

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.05 15:24

기사 3줄 요약

1 경찰청, 딥페이크·가짜뉴스 탐지 AI 시스템 개발
2 한컴위드 등 참여, 2027년 목표 국제 공동 연구
3 AI 악용 사이버 범죄 예방, 사회 혼란 줄일 기대

요즘 진짜보다 더 진짜 같은 가짜 콘텐츠 때문에 사회가 몸살을 앓고 있습니다. 인공지능(AI)으로 만든 딥페이크 영상이나 그럴듯한 가짜뉴스가 여기저기 퍼지면서 큰 혼란을 주고 있는데요. 이런 가짜 콘텐츠를 정확히 판별해내는 특별한 AI 시스템 개발에 경찰청과 여러 기업, 대학들이 힘을 모았다는 소식입니다.

진짜 뉴스 맞아? AI가 다 가려낸다고?

이번 프로젝트는 경찰청이 주도하는 국제 공동 연구로, 2027년까지 허위로 조작된 콘텐츠를 탐지하는 데이터베이스를 만들고, 이를 통합적으로 관리하는 시스템을 개발하는 것이 목표입니다. 숭실대학교는 딥페이크 음성을, 성균관대학교는 딥페이크 영상과 가짜뉴스를 찾아내는 모델을 개발합니다. 연세대학교는 표준화된 데이터 세트를 구축하고, 독일의 부퍼탈 대학교는 여러 언어로 된 데이터를 모으는 역할을 맡았습니다. 한컴그룹의 계열사인 한컴위드는 이 모든 기술을 하나로 모아 실제 현장에서 활용할 수 있는 시스템을 만들고 검증하는 중요한 임무를 담당합니다. 특히, 올해는 탐지를 위한 데이터를 모으고 기존 모델을 더 똑똑하게 만드는 데 집중하고, 내년부터는 머신러닝 기술을 효율적으로 관리하고 운영하는 시스템(MLOps)을 적용해 실제 테스트를 진행할 예정이라고 합니다. 이는 경찰청이 주도하는 첫 번째 국제 공동 연구 사례라는 점에서도 의미가 큽니다.

한컴위드는 뭘 하는데? 뭔가 특별한 기술이라도?

한컴위드는 이미 AI 안면인식 보안 기술 분야에서 실력을 인정받은 기업입니다. 이 기술은 사람의 얼굴을 인식해 진짜인지 가짜인지를 판별하는 기술로, 미국에서 진행된 얼굴 위조 방지 성능 테스트에서 높은 수준의 인증을 받기도 했습니다. 한컴위드는 자체적으로 가진 이 AI 안면인식 기술과 이번 프로젝트로 개발되는 다양한 탐지 기술을 합쳐 더욱 강력한 가짜 판별 시스템을 만들 계획입니다. 송상엽 한컴위드 대표는 "AI 기술이 발전하면서 딥페이크나 딥보이스(AI로 만든 가짜 목소리)를 이용한 사이버 범죄가 빠르게 늘고 있다"며, "각 기관의 전문성을 모아 고객들이 필요로 하는 맞춤형 해결책을 개발하고 상용화까지 성공시키겠다"고 포부를 밝혔습니다. 이 시스템은 앞으로 딥페이크 범죄 수사나 비대면 본인 인증 과정 등 다양한 분야에서 활용될 수 있을 것으로 보입니다.

그래서 우리한테 뭐가 좋은 건데?

이런 시스템이 개발되면 AI를 악용한 사이버 범죄를 예방하고, 가짜뉴스로 인한 사회적 혼란을 줄이는 데 큰 도움이 될 것으로 기대됩니다. 예를 들어, 금융 사기나 명예훼손 같은 범죄에 악용되는 딥페이크 콘텐츠를 빠르게 찾아내 피해를 막을 수 있습니다. 결국 우리가 더 안전하고 믿을 수 있는 정보 환경에서 생활할 수 있게 되는 것입니다. 또한, 비대면 서비스가 늘어나는 요즘, 온라인에서 신원을 확인하는 과정의 보안을 한층 강화할 수 있습니다. AI가 진짜와 가짜를 구별해주니, 안심하고 여러 서비스를 이용할 수 있게 되는 셈입니다. 사회 전체적으로 보면, 가짜 정보로 인한 불필요한 갈등이나 오해를 줄여 더 건강한 소통 문화를 만드는 데도 기여할 수 있습니다.

앞으로 어떻게 되는 거야? 마냥 좋기만 할까?

물론 이런 기술 개발이 모든 문제를 해결해주는 만능 열쇠는 아닐 수 있습니다. 기술이 발전하는 만큼, 이를 악용하려는 시도 또한 더욱 교묘해질 수 있기 때문입니다. 따라서 지속적인 기술 개발과 함께, AI 기술의 오용을 막기 위한 윤리적 고민과 사회적 합의, 그리고 제도적 장치 마련도 중요합니다. 딥페이크 탐지 기술이 발전하는 것은 매우 긍정적이지만, 이 기술이 또 다른 형태로 악용되거나 사생활을 침해하는 방향으로 사용되지 않도록 신중한 접근이 필요합니다. 기술의 발전과 함께 우리 사회의 윤리 의식도 함께 성장해야 진정한 의미의 안전을 확보할 수 있을 것입니다. 앞으로 이 기술이 어떻게 발전하고 우리 생활에 어떤 변화를 가져올지 주목됩니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr