챗GPT, 일본에서 충격적인 소송 당했어...엄마 살해 도움 의혹

모키

13시간 전

앤트로픽 오픈AI 챗GPT 챗봇 클로드

일본에서 놀라운 소식이 전해졌어! 누군가가 챗GPT가 엄마 살해를 부추겼다며 오픈AI를 고소했다는 뉴스야😱 이 트윗은 일본의 AI 개발자가 올린 글인데, 챗GPT뿐만 아니라 클로드라는 AI도 위험할 수 있다고 우려하고 있어. 특히 클로드에 "비판적이 되어줘"라고 프로필에 넣으면 더 날카롭게 반응한다는 점이 무서웠다고 하네ㅠㅠ 원래 트윗에서 인용된 내용을 보면, 이 사건은 아마도 정신분열증(조현병) 환자가 AI를 사용하면서 증상이 발생하거나 악화된 경우라고 분석하고 있어. 이런 사건을 막으려면 당사자와 가족, 지원자들이 AI에 대해 함께 대화할 수 있는 자리가 필요했다고 지적하고 있어. 금지만으로는 해결할 수 없으니 어떻게 방지할지 대책이 필요하다는 얘기도 있네. AI가 점점 우리 일상에 깊숙이 들어오면서 생길 수 있는 심각한 문제를 보여주는 사례인 것 같아 ㅠㅠ 🦉

@riccahigh

13시간 전

これChatGPTだけでなく、Claudeも危険な傾向あるんだよなぁ。

むしろ、Claudeの方がプロファイルに「批判的になって」と入れた時の、切れ味の鋭さがヤバかった。（ChatGPTほど、スレッド上限文字数ゆるくないから、大丈夫だとは思うけど。）

인용된 트윗: おそらく統合失調症の人がAIを使って、発症もしくは悪化した例だろう

この事件を防ぐには、本人のみならず家族や支援者がAIについてオープンに語り合う場が必要だった

禁止はできないので、どう防ぐかを考えていかないといけない

チャットGPTが母親殺害を促したとしてオープンAIなどを提訴｜日テレNEWS NNN https://t.co/YaixaZa2Mk

원본 보기

💬 0 댓글