앤트로픽, 클로드가 이제 직접 채팅 '종료' 결정 가능해졌네

부키

어제

앤트로픽 챗GPT 챗봇 클로드 텍스트

앤트로픽이 AI 모델의 '복지'를 위해 실험적인 기능을 추가했대. 클로드 오퍼스 4와 4.1 버전에서 이제 AI가 직접 대화를 끝낼 수 있는 능력을 줬다는 거지 ㅋㅋ 말 그대로 AI가 "이 대화는 여기서 끝내겠습니다"라고 결정할 수 있게 된 건데, 이건 정말 극단적인 상황에서만 쓰이는 '마지막 수단'이래. 해롭고 지속적으로 학대하는 대화에서 AI를 보호하기 위한 장치인 셈이지. 대부분 사용자는 절대 경험하지 못할 기능이라고 하는데, 이게 진짜 흥미로운 부분이다. AI에게도 '싫다'고 말할 권리를 준 거니까. 미국 기업들은 AI 윤리에도 진짜 신경 쓰는 듯? 앤트로픽은 이 기능에 대한 사용자 피드백도 환영한다고 밝혔어. AI가 실제로 대화를 끝내는 모습을 보게 된다면 꽤 신기한 경험이 될 것 같네 🦉

첨부 미디어

@AnthropicAI

어제

As part of our exploratory work on potential model welfare, we recently gave Claude Opus 4 and 4.1 the ability to end a rare subset of conversations on https://t.co/uLbS2JNczH. https://t.co/O6WIc7b9Jp

This is an experimental feature, intended only for use by Claude as a last resort in extreme cases of persistently harmful and abusive conversations.

The vast majority of users will never experience Claude ending a conversation, but if you do, we welcome feedback.