기술/연구

2600억 증발? AI 목소리 위조 사기 급증, 기업들 초비상

댓글 0 · 저장 0 2025.04.25 07:59

기사 3줄 요약

1 AI 딥페이크 사기 급증, 올 1분기 피해 2억 달러 넘어
2 제리코 시큐리티, AI 사기 대응 위해 1500만 달러 유치
3 정교한 딥페이크 탐지 어려워, 다각적 보안 대책 시급

사장님 목소리인 줄 알고 송금했는데 알고 보니 AI 사기? 믿기지 않는 일이 현실이 됐습니다. 올해 1분기에만 AI 딥페이크 사기로 인한 전 세계 피해액이 무려 2억 달러, 우리 돈 약 2600억 원을 넘어섰습니다. AI 기술 발전의 어두운 그림자인 딥페이크 사기가 기업들을 공포로 몰아넣고 있습니다.

진짜 목소리랑 똑같다고?

딥페이크는 인공지능 기술로 사람의 얼굴이나 목소리를 진짜처럼 만들어내는 기술입니다. 문제는 이 기술이 사기에 악용되면서 피해가 눈덩이처럼 불어나고 있다는 점입니다. 최근 홍콩에서는 한 금융 회사 직원이 딥페이크 영상 통화에 속아 무려 3900만 달러(약 530억 원)를 송금하는 사건이 발생했습니다. 영국의 유명 엔지니어링 회사인 아럽(Arup)도 비슷한 사기로 약 2500만 달러(약 340억 원)의 손실을 봤습니다. 전문가들은 이런 추세라면 AI를 이용한 사기 피해액이 2027년에는 400억 달러(약 54조 원)에 달할 수 있다고 경고합니다. 평균적으로 기업당 딥페이크 사기 시도 한 건의 피해액은 45만 달러(약 6억 원)에 이릅니다.

AI 사기 막을 방법은 없을까?

이처럼 심각해지는 AI 사기에 맞서기 위해 사이버 보안 기업들이 나서고 있습니다. 미국의 제리코 시큐리티(Jericho Security)라는 회사가 대표적입니다. 이 회사는 최근 1500만 달러(약 200억 원)의 투자를 유치하며 딥페이크 사기 방지 기술 개발에 박차를 가하고 있습니다. 제리코 시큐리티는 ‘에이전틱 AI(Agentic AI)’라는 자체 개발 AI를 활용합니다. 이 AI는 직원 개개인의 행동 패턴을 학습해 맞춤형 피싱 사기 시뮬레이션을 만듭니다. 이메일뿐만 아니라 목소리, 문자 메시지, 영상 통화 등 다양한 방식으로 실제 사기 공격과 유사한 훈련 환경을 제공하는 것입니다. 회사 측 데이터에 따르면, 이 훈련을 받은 직원들은 실제 피싱 공격에 속을 확률이 64%나 낮아졌다고 합니다. 기존의 정형화된 보안 교육보다 훨씬 효과적인 셈입니다.


구분	기존 보안 교육	제리코 시큐리티 AI 기반 교육
방식	정적 템플릿, 예측 가능한 시나리오	적응형, 다채널 피싱 시뮬레이션
학습	단순 암기	AI 기반 맞춤형 학습
효과성	정교한 공격에 취약	피싱 사기 성공률 64% 감소

그럼 딥페이크, 다 잡아낼 수 있나?

물론 딥페이크를 탐지하는 기술도 개발되고 있습니다. 영상 속 얼굴 특징의 미세한 불일치나 부자연스러운 조명, 목소리의 어색한 억양 등을 분석하는 방식입니다. 하지만 사기꾼들의 딥페이크 기술 역시 빠르게 발전하고 있어 문제입니다. 현재 딥페이크 탐지 기술의 성공률은 약 65% 수준에 머물러 있습니다. 특히 '딥페이스랩(DeepFaceLab)'이나 '아바타리파이(Avatarify)' 같은 고도화된 도구로 만든 딥페이크는 구별하기가 더 어렵습니다. 따라서 한 가지 기술에만 의존하기보다는 여러 보안 장치를 함께 사용하는 것이 중요합니다. 전문가들은 여러 단계의 인증 절차를 거치는 다중 인증(Multi-Factor Authentication), 사용자가 실제 살아있는 사람인지 확인하는 라이브니스 탐지(Liveness Detection) 등을 병행해야 한다고 조언합니다. AI 기술은 우리 삶을 편리하게 만들지만, 동시에 딥페이크 사기라는 새로운 위협도 만들어냈습니다. 앞으로 기업들은 AI를 활용해 사기를 방지하는 동시에, 직원들의 보안 의식을 높이는 노력을 꾸준히 해야 할 것입니다. 기술 발전과 함께 보안의 중요성도 더욱 커지고 있습니다.