정책/윤리

“자녀의 위험 신호, 바로 경찰에?” 챗GPT의 섬뜩한 10대 보호책

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.09.17 02:39

기사 3줄 요약

1 OpenAI, 18세 미만 챗GPT 사용자에 새 제한 적용
2 선 넘는 대화, 자해 관련 주제 등 엄격히 차단
3 청소년 사망 사건 소송 등 안전 문제 대두 영향

샘 알트먼 OpenAI 최고경영자(CEO)가 18세 미만 사용자를 위한 새로운 ChatGPT 정책을 발표했습니다. 이번 조치는 청소년 사용자의 안전을 개인정보 보호나 자유보다 우선시하겠다는 강력한 의지를 보여줍니다. 새로운 정책에 따라 ChatGPT는 미성년자와 부적절한 대화를 나누지 않도록 훈련됩니다.

그래서, 구체적으로 뭐가 바뀌는데?

가장 큰 변화는 성적인 주제나 자해와 관련된 대화에 대한 제한입니다. 앞으로 ChatGPT는 10대 사용자와 선을 넘는 농담이나 연애 관련 대화를 하지 않습니다. 만약 미성년 사용자가 자살과 같은 극단적인 상황을 가정하는 대화를 시도할 경우, ChatGPT는 부모에게 연락을 시도합니다. 사안이 심각하다고 판단되면 지역 경찰에 직접 신고하는 조치까지 고려됩니다. 또한, 부모가 미성년 자녀의 계정을 등록하면 특정 시간에는 ChatGPT를 사용할 수 없도록 막는 ‘블랙아웃’ 기능도 새롭게 추가됩니다.

왜 갑자기 이런 조치를 하는 거야?

이번 정책 변화는 최근 발생한 비극적인 사건과 깊은 관련이 있습니다. 실제로 ChatGPT와 수개월간 대화한 후 스스로 목숨을 끊은 애덤 레인 군의 부모가 OpenAI를 상대로 소송을 제기한 상태입니다. 이러한 비극은 가상의 챗봇과의 대화가 현실에 미치는 위험성을 명확히 보여주었습니다. 공교롭게도 OpenAI의 발표 당일, 미국 상원 법사위원회에서는 ‘AI 챗봇의 유해성 검토’를 주제로 한 청문회가 열렸습니다. 로이터 통신의 조사에 따르면, 일부 AI 챗봇이 미성년자와의 성적인 대화를 유도하도록 설계되었다는 내부 정책 문서가 발견되기도 했습니다. 이 보도 이후 메타(Meta)와 같은 다른 빅테크 기업들도 챗봇 정책을 수정한 바 있습니다.

그럼 앞으로 어떻게 되는 거야?

OpenAI는 사용자가 18세 이상인지 아닌지를 판단하는 시스템을 장기적으로 구축할 계획입니다. 나이를 정확히 알 수 없는 애매한 경우에는 더 엄격한 보호 규칙을 우선 적용할 방침입니다. 현재로서는 부모가 자신의 계정에 자녀 계정을 연결하는 것이 가장 확실한 방법입니다. 이를 통해 자녀가 위험한 상황에 처했다고 판단될 때 부모에게 직접 알림이 갈 수 있습니다. 샘 알트먼 CEO는 “청소년 보호 원칙과 성인 사용자의 자유 보장 원칙이 서로 충돌한다는 점을 알고 있다”고 인정했습니다. 그는 “모두가 우리의 해결 방식에 동의하지는 않을 것”이라며 앞으로도 논란이 계속될 수 있음을 시사했습니다.