기술/연구

“AI 가짜 판독기 등장?” 구글 신기술, 딥페이크 이제 숨을 곳 없다

댓글 2 · 저장 0 · 편집: 이도윤 기자 발행: 2025.05.21 06:27

기사 3줄 요약

1 구글, AI 콘텐츠 식별용 SynthID 웹 포털 공개
2 변형된 AI 제작물도 워터마크로 탐지 가능
3 이미지·오디오 시작, 영상·텍스트로 확대

AI가 만든 가짜 사진과 목소리가 넘쳐나는 요즘, 진짜와 가짜를 구분하기 점점 어려워지고 있습니다. 이런 가운데 세계적인 IT 기업 구글이 AI가 만든 콘텐츠인지 아닌지를 알려주는 특별한 기술, 'SynthID(신스아이디)' 웹 포털을 공개해 주목받고 있습니다. 이 기술이 앞으로 딥페이크나 가짜뉴스로 인한 혼란을 줄이는 데 도움이 될지 관심이 쏠립니다.

그래서, 이게 뭔데? 어떻게 작동하는 거야?

구글이 선보인 SynthID 웹 포털은 일종의 'AI 탐지기'라고 생각하면 쉽습니다. 사용자가 사진이나 오디오 파일을 이 웹사이트에 올리면, SynthID 기술이 해당 파일에 AI가 만든 표식, 즉 '디지털 워터마크'가 숨겨져 있는지 찾아냅니다. 만약 AI가 만든 콘텐츠라면, 어느 부분에 워터마크가 있는지 시각적으로 표시해 알려줍니다. 이 워터마크는 사람 눈에는 잘 보이지 않지만, AI는 식별할 수 있는 특수한 표식입니다. 구글에 따르면 이 표식은 사진이 압축되거나 필터가 적용되는 등 약간의 변형을 거쳐도 감지될 수 있다고 합니다. 현재는 이미지와 오디오 파일만 검사할 수 있지만, 몇 주 안에 동영상과 글(텍스트)까지 확인할 수 있도록 기능을 늘릴 계획입니다.

모든 AI 콘텐츠 다 잡아낼 수 있어?

아쉽게도 그건 아닙니다. 구글의 SynthID는 AI로 콘텐츠를 만들 때 처음부터 이 'SynthID 워터마크'를 함께 넣은 경우에만 식별할 수 있습니다. 이미 SynthID 기술을 적용해 100억 개가 넘는 콘텐츠에 표식이 새겨졌다고 하지만, 세상에는 워터마크 없이 만들어진 AI 콘텐츠가 훨씬 더 많습니다. 따라서 딥페이크 제작자가 일부러 워터마크를 넣지 않거나 다른 방식으로 AI 콘텐츠를 만들면, 구글의 이 탐지기로는 잡아낼 수 없습니다. 구글도 이런 한계를 알고 있으며, 앞으로 워터마크가 없는 AI 콘텐츠도 식별할 수 있는 기술을 개발하기 위해 노력하고 있다고 밝혔습니다. 또한 더 많은 개발자들이 이 기술을 활용할 수 있도록 관련 기술(툴킷)을 오픈소스로 공개하기도 했습니다.

그럼 다른 회사들은 뭐 해? 다 같이 하면 안 돼?

사실 AI로 만든 콘텐츠에 표식을 남기는 '워터마킹' 기술의 중요성은 여러 기업이 공감하고 있습니다. 2023년에는 구글을 포함한 7개의 주요 AI 기업들이 미국 대통령 앞에서 워터마킹 기술을 개발하겠다고 약속하기도 했습니다. 하지만 모든 회사가 똑같은 방식의 워터마크를 사용하도록 표준을 만드는 데는 큰 어려움이 따릅니다. 각 회사마다 개발한 기술도 다르고, 어떤 기술을 표준으로 삼을지 합의하기도 쉽지 않기 때문입니다. 챗GPT로 유명한 OpenAI의 경우, 무료 사용자가 만든 이미지에 워터마크를 넣는 실험을 하고는 있지만, 글에 워터마크를 넣는 기술은 정확도 문제 등을 이유로 아직 공개하지 않고 있습니다. 결국 구글의 SynthID 웹 포털은 AI가 만든 가짜 콘텐츠와의 싸움에서 중요한 한 걸음을 내디딘 셈입니다. 하지만 이 기술만으로 모든 문제가 해결되기는 어렵습니다. 앞으로 더 많은 기업의 협력과 기술 발전, 그리고 AI 콘텐츠를 비판적으로 바라보는 사용자들의 노력이 함께 필요해 보입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr