정책/윤리

“샘 알트먼 조롱 영상 터졌다” OpenAI가 부랴부랴 내놓은 기능

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.06 19:47

기사 3줄 요약

1 OpenAI, 영상 AI '소라'에 딥페이크 통제 기능 추가
2 샘 알트먼 CEO 조롱 영상 확산되며 가짜뉴스 우려 커져
3 정치 영상 출연 금지 등 사용자 보호 장치 업데이트

최근 인터넷을 뜨겁게 달군 인공지능(AI) 영상 제작 앱 ‘소라(Sora)’가 결국 안전 기능 업데이트를 발표했습니다. 이 앱으로 만든 AI 아바타, 즉 ‘딥페이크’가 무분별하게 사용되는 것을 막기 위한 조치입니다. 이번 업데이트는 소라 앱으로 만든 샘 알트먼 OpenAI 최고경영자(CEO)의 가짜 영상이 조롱의 의미로 퍼져나간 것이 결정적인 계기가 됐습니다. AI 기술의 무서운 파급력과 함께 가짜뉴스에 대한 우려가 현실로 다가온 셈입니다.

이게 대체 무슨 앱인데?

소라는 OpenAI가 만든 AI 영상 생성 서비스입니다. 사용자가 원하는 영상의 내용을 글로 입력하면, AI가 그에 맞춰 짧은 영상을 만들어주는 놀라운 기술입니다. 특히 소라 앱은 ‘AI판 틱톡’으로 불리며 큰 인기를 끌고 있습니다. 이 앱을 이용하면 단 10초 만에 특정 인물의 얼굴과 목소리를 그대로 복제한 ‘AI 아바타’를 만들 수 있습니다.

그래서 뭐가 문제였어?

문제는 AI 아바타를 너무 쉽게 만들고 퍼뜨릴 수 있다는 점이었습니다. 이전에는 AI 아바타 사용에 대한 통제 기능이 ‘허용’과 ‘거부’ 정도로 단순했습니다. 이 때문에 OpenAI의 수장인 샘 알트먼마저 조롱거리로 전락했습니다. 그의 AI 아바타가 도둑질을 하거나, 심지어 인기 캐릭터인 피카츄를 구워 먹는 등 황당한 영상들이 만들어져 인터넷에 퍼졌습니다. 이는 딥페이크 기술이 악용될 경우 얼마나 위험한지 보여주는 사례가 됐습니다.

이제 어떻게 바뀐다는 거야?

새롭게 추가된 기능은 사용자에게 훨씬 더 세밀한 통제 권한을 줍니다. 예를 들어, 자신의 AI 아바타가 정치적인 영상에 등장하는 것을 원천적으로 차단할 수 있습니다. 특정 단어를 말하지 못하게 막거나, 반대로 특정 소품을 착용하도록 설정하는 것도 가능합니다. OpenAI 측 관계자에 따르면, 사용자가 원하면 자신의 AI 아바타가 모든 영상에서 ‘케첩 최고’ 모자를 쓰게 만들 수도 있습니다.

이걸로 정말 안전해질까?

OpenAI는 이번 업데이트를 시작으로 AI 아바타에 대한 통제 기능을 계속해서 강화하겠다고 밝혔습니다. 하지만 일각에서는 여전히 우려의 목소리가 나옵니다. 과거 챗GPT 등 다른 AI 서비스에서도 안전장치를 우회하려는 시도가 끊이지 않았기 때문입니다. 결국 기술 발전과 함께 사용자의 안전을 지키려는 노력이 계속되어야 한다는 지적입니다.