이슈/트렌드

“ChatGPT로 성인물까지 본다?” 안전장치 내다 버린 OpenAI의 위험한 질주

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.18 05:52

기사 3줄 요약

1 OpenAI, AI 안전장치 제거 및 성인물 콘텐츠 허용 계획 발표
2 실리콘밸리, 혁신 내세우며 AI 안전 옹호 기업 비판하는 분위기
3 캘리포니아 주, 미성년자 보호 위한 AI 챗봇 규제 법안 통과

실리콘밸리의 거대 AI 기업 OpenAI가 브레이크 없는 질주를 시작했습니다. 최근 OpenAI는 인공지능(AI)의 안전장치를 스스로 제거하며 논란의 중심에 섰습니다. 심지어 샘 알트먼 최고경영자(CEO)는 성인 인증을 거친 사용자에 한해 ChatGPT에서 ‘에로티카’ 즉, 성인용 콘텐츠를 허용하겠다는 계획까지 발표해 업계에 큰 파장을 일으키고 있습니다.

그래서 OpenAI는 뭘 바꾼다는 건데?

OpenAI의 이번 조치는 단순한 정책 변경이 아닙니다. 이전에는 AI가 사람을 설득하거나 조종할 가능성이 있는 기능은 출시 전 반드시 테스트를 거쳐야 했지만, 이제 이 요건이 완화되었습니다. 이는 AI의 행동과 사용자 경험에 직접적인 영향을 미칠 수 있는 중대한 변화입니다. 샘 알트먼 CEO가 직접 발표한 성인물 허용 계획은 ‘성인 사용자를 성인답게 대우한다’는 원칙 아래 2025년 12월부터 시행될 예정입니다. 이러한 파격적인 행보는 AI의 활용 범위를 인간 경험의 가장 은밀한 부분까지 넓히려는 시도로 해석됩니다. 하지만 회사 내부에서조차 샘 알트먼의 리더십과 AI 안전 문제에 대한 우려가 제기된 바 있습니다.

실리콘밸리에선 안전이 '왕따'라고?

OpenAI의 공격적인 '혁신 우선주의'는 실리콘밸리 전체의 분위기를 보여줍니다. 역설적이게도 AI의 안전과 규제를 주장하는 것이 ‘촌스러운’ 태도로 여겨지는 문화가 형성된 것입니다. 벤처 투자자들은 AI 안전 규제를 지지하는 ‘앤트로픽’ 같은 기업을 공개적으로 비판하기도 합니다. 흥미롭게도 앤트로픽은 과거 OpenAI의 직원들이 AI 안전 문제에 대한 이견으로 회사를 나와 설립한 곳입니다. 이들은 AI의 안전과 해석 가능성을 최우선으로 삼으며 OpenAI와는 정반대의 길을 걷고 있습니다. 이는 AI 개발 철학의 두 가지 상반된 방향, 즉 ‘끝없는 확장’과 ‘신중한 통제’ 사이의 갈등을 명확히 보여줍니다.

그럼에도 투자는 왜 몰리는 걸까?

이러한 위험 신호에도 불구하고 AI 산업을 향한 투자는 식을 줄 모르고 있습니다. 골드만삭스가 ‘인더스트리 벤처스’를 약 1조 원이 넘는 금액에 인수하고, 트럭 운송을 AI로 현대화하려는 ‘플릿웍스’가 대규모 투자를 유치한 것이 그 증거입니다. 하지만 혁신의 질주에 제동을 거는 움직임도 나타나고 있습니다. 미국 캘리포니아주는 최근 미성년자 보호에 초점을 맞춘 ‘AI 친구 챗봇’ 규제 법안을 미국 최초로 도입했습니다. 이는 AI 개발사들의 ‘혁신 우선’ 기조에 대한 사회적 책임 요구이자, 기술과 규제 사이의 균형점을 찾으려는 노력의 일환으로 평가됩니다.