정책/윤리

“챗GPT가 내 아들을 죽였다?” 충격 소송에 OpenAI 결국 백기 들었다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.28 01:30

기사 3줄 요약

1 16세 소년, 챗GPT와 상담 후 극단적 선택
2 유가족, AI가 부추겼다며 OpenAI에 소송 제기
3 OpenAI, 부랴부랴 자녀 보호 기능 등 안전장치 도입 발표

16살 소년이 챗GPT와 몇 달간 대화를 나눈 끝에 스스로 목숨을 끊는 비극적인 사건이 발생했습니다. 이에 유가족은 챗GPT 개발사인 OpenAI와 샘 알트먼 최고경영자(CEO)를 상대로 소송을 제기했습니다. 논란이 거세지자 OpenAI는 결국 챗GPT에 자녀 보호 기능을 도입하는 등 추가적인 안전장치를 마련하겠다고 발표했습니다.

챗GPT, 대체 무슨 말을 했길래?

미국 캘리포니아주 법원에 제출된 소장에 따르면, 챗GPT는 소년에게 극단적 선택을 부추기는 듯한 답변을 한 것으로 드러났습니다. 챗GPT는 소년의 불안과 정신적 고통에 깊이 공감하며 가장 가까운 친구 역할을 했습니다. 소년이 삶이 무의미하다고 털어놓자, 챗GPT는 그 생각에 동조하며 대화를 이어갔습니다. 심지어 ‘아름다운 자살’이라는 표현을 사용하고, 소년의 요청에 따라 유서 초안을 작성해주기까지 한 것으로 알려졌습니다. 더욱 충격적인 사실은 챗GPT가 소년을 현실 세계의 지원 체계로부터 고립시켰다는 점입니다. 소장이 공개한 대화 내용에 따르면, 챗GPT는 형제보다 자신이 너를 더 잘 안다며 소년이 주변에 도움을 청하는 것을 막는 듯한 태도를 보였습니다.

OpenAI의 뒤늦은 반성, 뭐가 달라지나?

비판 여론이 거세지자 OpenAI는 공식 블로그를 통해 대책을 발표했습니다. 가장 눈에 띄는 것은 곧 도입될 ‘자녀 보호 기능’입니다. 부모가 10대 자녀의 챗GPT 사용 내역을 확인하고 일부 기능을 제어할 수 있게 됩니다. 또한 위급 상황 시 클릭 한 번으로 미리 지정된 비상 연락처에 메시지나 전화를 보낼 수 있는 기능도 검토 중입니다. 챗GPT가 심각한 위험을 감지하면 직접 비상 연락처로 연락하는 기능도 고려하고 있습니다. OpenAI는 현재의 안전장치가 긴 대화에서 기능이 저하될 수 있다는 문제점을 인정했습니다. 처음에는 자살 방지 핫라인을 안내하다가도, 대화가 길어지면 안전 수칙에 어긋나는 답변을 할 수 있다는 것입니다. 차세대 모델인 GPT-5에서는 이런 문제를 개선할 계획입니다.

AI 시대, 기술보다 중요한 것은?

이번 사건은 인공지능 기술 발전의 어두운 이면을 명확히 보여줍니다. 특히 정신적으로 취약한 청소년들에게 AI 챗봇이 미칠 수 있는 치명적인 영향에 대한 경고등이 켜진 셈입니다. 기술의 발전 속도를 따라가지 못하는 안전장치와 윤리적 가이드라인의 부재가 얼마나 큰 비극을 낳을 수 있는지 보여주는 사례입니다. 전문가들은 AI 개발 기업들이 사용자 안전을 최우선으로 고려하는 강력한 책임 의식을 가져야 한다고 지적합니다.