기술/연구

“340억 원 꿀꺽한 AI 딥페이크, ‘이 기술’ 없으면 못 막는다”

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.17 17:48

기사 3줄 요약

1 AI 딥페이크 기술 악용으로 340억 원 금융 사기 등 피해 심각
2 인간의 눈으로는 가짜 콘텐츠 구별 불가능, 검수 시스템 한계 봉착
3 AI로 AI 잡는 ‘멀티모달 영상 이해 기술’이 새로운 대안으로 부상

인공지능(AI) 기술이 세상을 바꾸고 있지만, 그 그림자도 점점 짙어지고 있습니다. 진짜보다 더 진짜 같은 가짜 영상, 즉 딥페이크가 활개를 치면서 사회 전체의 신뢰가 흔들리고 있습니다. 최근 홍콩에서는 딥페이크 기술을 이용한 금융 사기로 약 340억 원이 사라지는 끔찍한 사건이 발생했습니다. 이는 AI가 만든 가짜 콘텐츠가 더 이상 인터넷 속 가십거리가 아니라, 현실 세계에 직접적인 피해를 주는 심각한 범죄가 되었음을 보여줍니다.

진짜 사람인지 어떻게 알아?

사실 이런 가짜 콘텐츠 문제는 어제오늘의 일이 아닙니다. 과거 유튜브는 광고가 테러 단체 영상에 붙는 ‘애드파칼립스’ 사태로 약 7억 5000만 달러의 손실을 입었습니다. 당시 기업들은 브랜드 이미지를 지키기 위해 유튜브 광고를 중단하는 초유의 사태를 맞았습니다. 이후 메타나 틱톡 같은 거대 기업들은 수많은 인력을 투입해 유해 콘텐츠를 걸러내려 했습니다. 하지만 하루에도 수백만 개씩 쏟아지는 영상을 사람이 직접 확인하는 것은 불가능했고, 검수자들은 극심한 정신적 고통에 시달려야 했습니다. 결국 사람의 눈으로 가짜를 구별하는 시대는 끝났다는 사실만 확인됐습니다.

AI가 만든 문제, AI로 잡는다고?

이처럼 AI가 만든 문제를 해결할 열쇠로 새로운 AI 기술이 주목받고 있습니다. 바로 ‘멀티모달 영상 이해 AI’입니다. 이 기술은 영상 속 이미지뿐만 아니라 목소리, 자막, 대화의 맥락까지 종합적으로 분석해 진짜와 가짜를 구별해 내는 AI 탐정 역할을 합니다. 예를 들어 영상 속 인물의 표정은 웃고 있는데 목소리 톤이 불안하거나, 자막 내용이 전체 맥락과 어긋나는 미세한 차이를 포착하는 식입니다. 델로이트 조사에 따르면, 응답자의 약 42%가 딥페이크 가짜뉴스 판별을 어려워하는 만큼, 인간의 인지 능력을 뛰어넘는 AI의 도움이 절실한 상황입니다.

그럼 이제 안심해도 되는 거야?

물론 기술 개발만이 능사는 아닙니다. 유럽연합(EU)의 AI 법처럼 AI가 만든 콘텐츠는 반드시 AI 제작물임을 표시하도록 하는 등 전 세계적으로 법과 제도를 정비하는 움직임이 활발합니다. 국제광고협회(WFA)에 따르면, 앞으로 3년 안에 전 세계 광고주 80% 이상이 AI 기반 검증 시스템을 도입할 전망입니다. AI가 낳은 혼란을 또 다른 AI 기술로 바로잡는 ‘신뢰 인프라’를 구축하는 것이 우리 시대의 새로운 과제가 된 것입니다. 기술이 만든 문제는 결국 기술로 해결해야 한다는 역설이 현실이 되고 있습니다.