기술/연구

“가짜가 진짜 이겼다” AI 라벨링 기술의 처참한 실패

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.02.06 00:12

기사 3줄 요약

1 AI 라벨링 기술 C2PA 사실상 실패 판정
2 인스타와 유튜브는 돈 때문에 딥페이크 방치
3 정부 규제 없이는 가짜와의 전쟁서 승산 없어

우리는 눈에 보이는 것을 믿도록 설계된 세상에 살고 있습니다. 하지만 그 믿음이 뿌리째 흔들리는 사건이 발생했습니다. 바로 인스타그램의 수장인 아담 모세리가 던진 충격적인 발언 때문입니다. 그는 이제 우리가 보는 사진과 영상이 진짜라고 가정해서는 안 되며, 처음부터 의심해야 한다고 말했습니다. 이는 소셜 미디어 시대의 신뢰가 완전히 무너졌음을 의미합니다. 더 버지(The Verge)의 보도에 따르면, AI가 만든 가짜 콘텐츠와 진짜를 구별하기 위해 야심 차게 도입된 기술들이 처참하게 실패하고 있다고 합니다. 특히 업계 표준으로 불리던 ‘C2PA’ 기술마저 딥페이크 전쟁에서 현실을 지켜내지 못하고 있습니다. 도대체 무엇이 잘못된 것일까요. 지금부터 그 내막을 낱낱이 파헤쳐 보겠습니다.

디지털 꼬리표의 배신

많은 기술 기업들은 C2PA라는 기술을 해결책으로 제시했습니다. C2PA는 쉽게 말해 사진이나 영상에 ‘디지털 꼬리표’를 붙이는 기술입니다. 누가 언제 촬영했는지, AI가 수정했는지 등의 정보를 파일 안에 기록해 두는 방식입니다. 어도비, 마이크로소프트, 오픈AI 같은 거대 기업들이 이 기술을 지지했습니다. 이론적으로는 완벽해 보였습니다. 하지만 현실은 냉혹했습니다. 더 버지의 분석에 따르면, 이 디지털 꼬리표는 너무나 쉽게 떨어져 나갑니다. 누군가 악의적으로 정보를 지울 수도 있고, 단순히 스크린샷을 찍기만 해도 꼬리표는 사라집니다. 심지어 오픈AI조차 이 정보가 쉽게 삭제될 수 있다는 점을 인정했습니다. 결국 C2PA는 진짜와 가짜를 구별하는 완벽한 방패가 되지 못했습니다. 더 큰 문제는 스마트폰 제조사들의 참여가 저조하다는 점입니다. 구글은 픽셀 폰에 이 기능을 넣었지만, 아이폰을 만드는 애플은 아직 공식적인 참여를 밝히지 않았습니다. 모든 카메라와 플랫폼이 이 기술을 쓰지 않는다면, 반쪽짜리 해결책에 불과합니다. 결국 우리는 꼬리표 없는 수많은 가짜 사진 속에 방치된 셈입니다.

돈 때문에 눈감은 기업들

기술적 한계보다 더 심각한 것은 기업들의 태도입니다. 소셜 미디어 플랫폼들은 AI 라벨링을 적극적으로 도입할 이유가 없습니다. 왜냐하면 AI가 만든 자극적이고 화려한 콘텐츠들이 사람들을 플랫폼에 더 오래 머물게 하기 때문입니다. 이는 곧 광고 수익으로 직결됩니다. 제스 웨더베드 기자의 분석에 따르면, 플랫폼 입장에서 콘텐츠에 ‘가짜’라는 딱지를 붙이는 것은 수익을 갉아먹는 행위입니다. 창작자들은 자신의 작품에 AI 라벨이 붙는 것을 싫어하고, 사용자들은 라벨이 붙은 콘텐츠를 신뢰하지 않습니다. 결국 인스타그램이나 유튜브 같은 거대 기업들은 돈과 신뢰 사이에서 애매한 줄타기를 하고 있습니다. 정부의 대응 또한 실망스럽습니다. 미국 정부 기관들조차 AI로 조작된 이미지를 사용하다 적발되기도 했습니다. 규제해야 할 주체가 오히려 혼란을 부추기는 꼴입니다. 강력한 법적 규제가 없다면 기업들은 스스로 수익을 포기하면서까지 가짜 뉴스를 막으려 하지 않을 것입니다.

현실을 지키기 위한 마지막 보루

이제 기술만으로 현실을 지키는 것은 불가능해 보입니다. C2PA 같은 기술은 보조적인 수단일 뿐, 근본적인 해결책이 되지 못했습니다. 전문가들은 이제 강력한 법적 규제가 필요한 시점이라고 입을 모읍니다. 기업들이 자율적으로 해결하기를 기다리기엔 상황이 너무 심각해졌습니다. 우리는 이제 ‘보이는 것이 믿는 것’이라는 오랜 명제를 버려야 할지도 모릅니다. 아담 모세리의 말처럼 모든 것을 의심해야 하는 피곤한 시대가 열렸습니다. 하지만 포기하기엔 이릅니다. 지금이라도 법과 제도를 정비하고, 기업들에게 사회적 책임을 강력하게 요구해야 합니다. 우리의 현실은 우리가 지켜야 하기 때문입니다.