정책/윤리

딥페이크 개발사 캡션스 CEO의 섬뜩한 양심 고백

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.24 23:15

기사 3줄 요약

1 딥페이크 개발사 CEO, 기술 위험성 직접 경고
2 가짜뉴스·사기 등 사회적 혼란 야기 우려 확산
3 규제 논의 활발하지만 기술 발전 속도 더 빨라

최근 인공지능(AI) 영상 제작 기술을 개발하는 회사 ‘캡션스(Captions)’의 CEO가 충격적인 고백을 했습니다. 자신이 만든 딥페이크 기술의 발전 속도가 너무 빨라 무서울 정도이며, 사회가 이 위험에 전혀 대비하지 못하고 있다고 경고한 것입니다. ‘우리는 가짜 인간을 만듭니다. 그리고 이것이 우리를 잠 못 들게 하는 이유입니다.’라는 제목의 글을 통해서였습니다. 기술을 만든 개발자마저 공포를 느낄 만큼, 진짜와 가짜를 구분하기 힘든 세상이 성큼 다가왔다는 의미입니다.

진짜보다 더 진짜 같은 가짜, 뭐가 문제야?

딥페이크는 AI로 특정 인물의 얼굴이나 목소리를 진짜처럼 만들어내는 기술을 말합니다. 문제는 이 기술이 점점 더 정교해지면서 나쁜 목적으로 사용될 위험이 커지고 있다는 점입니다. 가짜뉴스와 허위 정보를 퍼뜨려 사회를 혼란에 빠뜨리는 것이 대표적입니다. 특정 정치인의 거짓 연설 영상을 만들어 선거에 영향을 주거나, 유명인을 사칭해 금융 사기를 저지르는 등 심각한 범죄로 이어질 수 있습니다.

막을 방법은 없어? 다들 뭐하는데?

상황이 심각해지자 마이크로소프트, 유튜브 같은 거대 기업들도 규제가 필요하다는 목소리를 내고 있습니다. 허락 없이 개인의 얼굴이나 목소리로 딥페이크를 만드는 것을 막는 법안을 지지하고 나선 것입니다. 하지만 규제가 기술의 발전을 막고 표현의 자유를 해칠 수 있다는 반대 의견도 만만치 않습니다. 이런 논쟁이 벌어지는 와중에도 구글의 제미나이 AI처럼 사진 한 장으로 영상을 만드는 등, 딥페이크 기술은 하루가 다르게 발전하며 모두의 손에 쥐어지고 있습니다.

그럼 우린 이제 뭘 믿어야 해?

전문가들은 딥페이크 기술의 위협에 맞서기 위해 여러 노력이 동시에 필요하다고 강조합니다. 딥페이크를 탐지하는 기술을 개발하고 관련 법을 만드는 동시에, 시민들 스스로가 미디어 정보를 비판적으로 받아들이는 능력을 키워야 한다는 것입니다. 무심코 보는 영상과 듣는 목소리가 진짜인지 항상 의심하고, 정보의 출처를 확인하는 습관이 그 어느 때보다 중요해졌습니다. 기술의 발전을 멈출 수 없다면, 결국 그것을 사용하는 우리 모두의 지혜로운 대처가 유일한 해결책이 될 것입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr