“OpenAI의 충격적인 배신?” 직접 만든 AI 영상 판별 기술을 무력화시켜

한때 진실의 보루로 여겨졌던 디지털 세상이 이제는 인공지능(AI)이 만들어낸 가짜 현실의 바다에서 표류하고 있습니다. 그 중심에는 OpenAI의 영상 생성 AI ‘소라(Sora)’가 있습니다. 소라는 단순히 기술의 경계를 넓히는 것을 넘어, 기존 딥페이크 탐지 기술과 콘텐츠 신뢰 표준인 C2PA가 얼마나 처참하게 무너졌는지 여실히 보여주고 있습니다. 결과적으로 온라인 세상은 심각한 '신뢰 위기'에 직면했습니다. 이는 단순한 기술적 결함을 넘어 우리가 공유하는 디지털 경험의 근간을 흔드는 시스템적 붕괴입니다.

그래서, 소라가 얼마나 대단한데?

소라는 마틴 루터 킹, 마이클 잭슨과 같은 유명 인사는 물론이고 스펀지밥 같은 유명 캐릭터까지 진짜와 구분하기 힘든 수준의 영상을 만들어냅니다. 문제는 이 정교한 가짜 영상들이 소라 앱을 벗어나 각종 소셜 미디어로 아무런 제재 없이 퍼져나간다는 점입니다. 일단 외부로 공유된 영상은 진짜인지 가짜인지 구별할 방법이 거의 없습니다. 뉴스 전문 기관 뉴스유가드(NewsGuard)에 따르면, 소라가 생성한 영상의 80%가 가짜 정보를 포함하고 있는 것으로 나타났습니다. 이는 단순한 기술 과시가 아닌, 사회 전체를 위협하는 심각한 문제입니다.

AI 판독기 C2PA, 믿어도 되는 거 맞아?

C2PA는 어도비(Adobe)와 같은 기업들이 주도해 만든 일종의 '디지털 출생증명서' 시스템입니다. AI가 만든 콘텐츠에 보이지 않는 꼬리표(메타데이터)를 붙여 출처를 표시하는 기술입니다. 이 꼬리표를 확인하면 해당 콘텐츠가 언제, 어떻게 만들어지고 수정되었는지 알 수 있습니다. 하지만 이 시스템은 속수무책으로 뚫리고 있습니다. 영상이 소셜 미디어에 업로드되는 순간, 이 디지털 꼬리표는 너무나 쉽게 제거되거나 무시됩니다. 결국 이용자가 직접 진위를 확인해야 하는데, 빠르게 콘텐츠를 소비하는 환경에서 이는 거의 불가능에 가깝습니다.

OpenAI의 이중적인 태도, 노린 걸까?

가장 아이러니한 점은 OpenAI가 바로 이 C2PA 표준을 만드는 운영 위원회 소속이라는 사실입니다. 자신들이 참여해 만든 규칙을 자신들의 제품으로 무력화시키는 모순적인 상황이 벌어진 것입니다. 이는 AI 기술 기업들의 자율 규제가 얼마나 허술한지 보여주는 단적인 예입니다. OpenAI의 행동은 기술 발전이라는 명분 아래 잠재적 위험을 외면하고 있다는 비판을 피하기 어렵습니다.

진짜와 가짜의 구분, 이제는 불가능한 걸까?

탐지 기술은 부서지고, 인증 표준은 실패했습니다. 딥페이크를 악용한 허위 정보, 사기, 명예훼손이 일상화될 수 있다는 경고가 현실이 되고 있습니다. 이제 '모든 것이 가짜'일 수 있는 시대가 도래한 것입니다. 현재의 기술과 제도는 새로운 현실에 대응하기에 턱없이 부족합니다. 디지털 세상의 진실성을 되찾기 위한 더 강력하고 근본적인 해결책 마련이 시급한 상황입니다.