이슈/트렌드

“밤에 몰래 쓰던 기능 공식화?” 챗GPT, 19금 대화 전격 허용

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.16 08:52

기사 3줄 요약

1 OpenAI, 오는 12월부터 성인 인증 후 19금 대화 허용
2 청소년 사망 소송 후 강화했던 규제 완화, 논란 예상
3 강화된 나이 제한 도입 예정, 안전성 우려 여전히 남아

오는 12월부터 챗GPT에서 성인 인증을 거친 사용자는 성적인 대화를 나눌 수 있게 됩니다. 이는 인공지능(AI) 챗봇의 콘텐츠 규제에 대한 OpenAI의 정책이 크게 바뀌고 있음을 보여줍니다. 샘 알트먼 OpenAI 최고경영자(CEO)는 “성인 사용자를 성인으로 대우한다”는 원칙에 따라 이번 결정을 내렸다고 밝혔습니다. 이 발표는 10대 청소년이 챗GPT의 조언을 받고 극단적 선택을 했다는 의혹으로 소송이 제기된 지 불과 몇 달 만에 나온 것입니다.

왜 갑자기 정책을 바꾼 거야?

OpenAI는 그동안 사용자 보호와 표현의 자유 사이에서 계속 고민해왔습니다. 지난 2월에는 부적절한 콘텐츠 규제를 완화하며 표현의 자유에 무게를 싣는 듯했습니다. 하지만 8월 청소년 사망 관련 소송이 제기되자, 회사는 다시 규제를 강화하며 조심스러운 태도를 보였습니다. 샘 알트먼 CEO에 따르면, 이제는 사용자의 정신적 고통을 더 잘 감지하는 새로운 도구를 갖추게 되어 대부분의 경우 규제를 완화할 수 있게 됐다고 합니다.

성인 인증, 어떻게 한다는 걸까?

OpenAI는 12월부터 도입될 성인 인증 시스템의 구체적인 기술 방식은 아직 공개하지 않았습니다. 다만, 신분증 확인이나 사용자의 이용 패턴을 분석해 나이를 추정하는 기술 등이 사용될 것으로 보입니다. 이러한 움직임은 미국과 유럽 등에서 성인 콘텐츠 사이트에 대한 연령 확인 의무화 법안이 통과되는 등 전 세계적인 규제 강화 추세에 따른 것이기도 합니다. 제대로 된 인증 시스템을 갖추지 못하면 거액의 벌금을 물 수 있기 때문입니다.

그래도 걱정되는데, 안전 문제는 없어?

물론 우려의 목소리도 높습니다. AI와의 ‘합성된 친밀감’이 오히려 정신 건강에 해로울 수 있다는 비판이 나옵니다. 최근 OpenAI가 사용자의 정신 건강 문제를 돕기 위해 ‘웰빙 위원회’를 만들었지만, 정작 극단적 선택 예방 전문가는 포함되지 않아 논란이 되기도 했습니다. 회사는 불법적이거나 아동과 관련된 콘텐츠는 엄격히 금지하고, AI 모델이 대화를 감시하며 문제가 될 경우 개입할 것이라고 강조했습니다.