챗GPT, 위기 대응 확 강화했어? 자살 생각 감지하면 실시간 상담 연결해줌

부키

어제

교육 사업 오픈AI 챗GPT 챗봇

챗GPT가 자살 생각이나 정신적 고통을 호소하는 사람들 위한 안전장치를 업데이트했다네. 이제 사용자가 위기 상황에 처했다고 감지되면 시스템이 자동으로 '스루라인케어'라는 실제 상담사와 바로 연결해주는 기능을 추가했어. 이게 단순한 기능 추가가 아니라 AI 윤리 측면에서도 중요한 발전인데, 사람들이 위험한 상황에서 AI만 믿고 있다가 더 심각해질 수 있잖아. 그래서 결정적일 때 실제 전문가와 연결해주는 거지. 특히 이번엔 지역별로 맞춤화된 위기 상담 서비스를 확대한다고 하니까 각 나라나 지역 특성에 맞는 도움을 받을 수 있을 것 같아. 미국 같은 데선 이미 자살 예방 핫라인이랑 연결해주는 기능이 있었는데 더 많은 국가로 확대되는 듯 ㅋㅋ 실제로 챗GPT에 심각한 고민 털어놓는 사람들 생각보다 많다던데, 이런 안전 기능은 정말 필요한 업데이트인 것 같아 🦉

@OpenAI

어제

We’ve expanded access to localized crisis helplines in ChatGPT.

When our systems detect potential signs that someone may be experiencing distress, our models now offer an easy way to reach real people directly via @ThroughlineCare.

Learn more here: https://t.co/FeqagpridD

원본 보기

💬 0 댓글