기술/연구

200억 투자 유치! AI가 AI 사기 막는다… 딥페이크 공포 끝?

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.04.25 18:00

기사 3줄 요약

1 딥페이크 방지 AI 기업 제리코, 200억 투자 유치
2 AI로 진짜 같은 훈련 제공, 실시간 위조 탐지
3 딥페이크 사기 피해 급증, 26년 1조 원 넘을 듯

“사장님 목소리랑 똑같은데?” 이제 이런 전화도 믿기 어려운 세상이 됐습니다. 인공지능(AI)을 이용해 목소리나 얼굴을 위조하는 딥페이크(Deepfake) 기술이 점점 교묘해지면서, 이를 악용한 사기 피해가 눈덩이처럼 불어나고 있기 때문입니다. 이런 가운데, 딥페이크 사기를 막기 위한 AI 기술 개발에 거액의 투자가 몰리고 있습니다. 미국 뉴욕에 본사를 둔 보안 스타트업 '제리코 시큐리티(Jericho Security)'가 최근 1500만 달러(약 200억 원) 규모의 시리즈 A 투자를 유치했습니다. 이들은 AI를 활용해 딥페이크 사기를 예방하는 훈련 플랫폼을 개발하는 회사입니다. 전문가들은 지금처럼 딥페이크 사기가 늘어난다면 2026년에는 피해액이 10억 달러(약 1조 3천억 원)를 넘어설 수 있다고 경고합니다.

딥페이크, 얼마나 심각하길래?

최근 딥페이크 사기는 상상을 초월할 정도로 발전했습니다. 제리코 시큐리티의 CEO 세이지 원스는 "숙련된 공격자는 단 몇 분 만에 당신 회사 CFO(최고재무책임자) 목소리를 똑같이 복제해 긴급 송금을 요구할 수 있다"고 말합니다. 기존의 보안 교육 방식으로는 이런 신종 위협에 대응하기 어렵다는 지적입니다. 실제로 피해 사례도 속출하고 있습니다. AI 연구기관 리젬블 AI(Resemble AI) 보고서에 따르면, 2025년 1분기에만 전 세계적으로 딥페이크 사기로 인한 피해액이 2억 달러(약 2600억 원)를 넘어섰습니다. 싱가포르에서는 한 다국적 기업 직원이 딥페이크로 만든 가짜 CFO 영상 통화에 속아 무려 2500만 달러(약 330억 원)를 송금하는 사건도 발생했습니다. 미국 연방수사국(FBI) 등 주요 기관들도 2024년부터 딥페이크 관련 기업 사기 사건이 급증하고 있다며 주의를 당부하고 나섰습니다. 공격 수법이 점점 더 정교해지고 있다는 뜻입니다.

제리코는 어떻게 막는데?

제리코 시큐리티는 AI 기술로 딥페이크 사기에 맞섭니다. 이들의 핵심 전략은 크게 세 가지입니다. 첫째, AI를 활용한 초현실적인 훈련입니다. 제리코의 플랫폼은 생성형 AI를 이용해 실제 공격과 매우 유사한 맞춤형 피싱 시뮬레이션을 만듭니다. 직원 개개인의 역할이나 회사가 속한 산업의 특성을 반영해 가장 현실적인 위협 상황을 경험하게 합니다. 둘째, '에이전틱 AI(Agentic AI)'라는 자율적인 AI 시스템을 사용합니다. 기존 훈련이 정해진 틀에 따라 진행됐다면, 에이전틱 AI는 실제 공격자처럼 행동합니다. 직원의 약점을 파악하고 이메일, 문자, 전화, 영상 통화 등 다양한 경로로 공격 전략을 바꿔가며 훈련 효과를 극대화합니다. 셋째, 진화된 딥페이크 탐지 기술입니다. 제리코의 기술은 실시간 대화에서 사람의 눈이나 귀로는 감지하기 어려운 미세한 소리나 영상의 불일치를 분석해 딥페이크를 식별합니다. 이를 통해 임원 사칭 전화나 영상 회의의 진위를 가려내는 중요한 방어막 역할을 합니다.

투자금 어디에 쓰고, 앞으론?

제리코 시큐리티는 이번에 확보한 200억 원의 투자금을 AI 탐지 기술 연구개발(R&D) 강화, 시장 확대, 우수 인재 영입 등에 사용할 계획입니다. 특히, 상대적으로 보안 투자가 어려운 중소기업들도 쉽게 이용할 수 있는 셀프 서비스 플랫폼도 출시해 AI 기반 보안 훈련의 문턱을 낮추겠다는 목표를 가지고 있습니다. 하지만 딥페이크의 위협은 계속 커질 전망입니다. 세계적인 IT 자문 기업 가트너(Gartner)는 2026년까지 기업 30%가 딥페이크 기술 때문에 기존 신원 확인 시스템을 신뢰하지 못하게 될 것이라고 예측했습니다. 사람과 기계의 경계가 흐려지는 시대, 디지털 세상에서의 '신뢰'를 지키기 위한 싸움은 이제 본격적으로 시작됐습니다. 제리코 시큐리티는 진짜 공격을 받기 전에, 직원들이 가장 현실적인 가짜 시나리오를 먼저 경험하게 하는 것이 최선의 방어라고 믿습니다. AI가 만든 위협을 또 다른 AI로 막으려는 이들의 도전이 급증하는 딥페이크 범죄에 어떤 해답을 줄 수 있을지 주목됩니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr