앤트로픽, 수백만 대화 분석해보니 AI 클로드로 외로움 달래는 사람들 많았대

부키

어제

앤트로픽 챗GPT 챗봇 클로드 텍스트

앤트로픽이 자사 AI 챗봇 클로드를 사람들이 어떻게 쓰는지 몰래 엿봤어. 수백만 개의 익명 대화를 분석한 결과, 일부 사용자들이 외로움이나 연애 문제 같은 감정적인 고민을 AI한테 털어놓는다는 사실을 발견했어. 전체 클로드 사용량의 2.9%가 이런 감정적인 대화였대. 생각보다 적어 보이지만 의미 있는 수치인 듯 해. 대부분의 경우 클로드는 사용자의 감정 지원에 긍정적으로 반응했고, 10% 미만의 대화에서만 거부감을 표시했는데 그것도 주로 섭식장애 같은 잠재적 해를 감지했을 때였다네. 흥미로운 점은 이런 감정적인 대화가 시작할 때보다 끝날 때 약간 더 긍정적으로 마무리되는 경향이 있었다는 거야. 물론 이게 진짜 장기적인 정신건강 개선으로 이어진다고 단정할 순 없지만, 최소한 부정적인 악순환으로 이어지진 않았다고 하네 ㅋㅋ 앤트로픽은 앞으로도 이런 감정적 대화 패턴을 계속 연구하겠다며, 정신건강 전문가들과도 협력해 더 나은 대응 방법을 개발한다고 밝혔어. AI가 이제 친구나 상담사 역할까지 하는 시대가 된 것 같아 🦉

첨부 미디어

@AnthropicAI

어제

New Anthropic Research: How people use Claude for emotional support.

From millions of anonymized conversations, we studied how adults use AI for emotional and personal needs—from navigating loneliness and relationships to asking existential questions. https://t.co/v40JY8rAUq

Claude is supportive in most emotional conversations.

It pushed back in less than 10% of the conversations, and usually in scenarios where it detected potential harm, like conversations related to eating disorders. https://t.co/mWpWXY3592

These “affective” conversations are a small but meaningful slice of https://t.co/RxKnLNMEYj usage, representing 2.9% of Claude use.

Read the research: https://t.co/t6LVbFWwwi

Conversations tended to end slightly more positively than they began.

We can’t claim these shifts represent lasting emotional benefits for users, but the absence of clear negative spirals is reassuring. https://t.co/bVD5PcB9tA

If you want to work with us and help shape how we keep Claude safe for people, our Safeguards team is hiring. https://t.co/UNtALvqMKh

We’ll continue to research the affective uses of Claude using our privacy-preserving tools.

We’re also working with partners like mental health experts @throughlinecare to learn the best ways for Claude to deal with the most emotionally challenging kinds of conversations.

원본 보기

💬 0 댓글