정책/윤리

“AI가 죽음을 부추겼다?” 구글 제미나이 자살 소송 후 도입한 생존 도구

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.04.08 15:53

기사 3줄 요약

1 구글 제미나이 자살 소송 이후 정신 건강 지원 도구 추가
2 AI가 망상 유도해 죽음 부추겼다는 유족 측 주장 제기
3 위기 상황 감지 시 즉각 전문 상담 핫라인 연결 서비스 실시

구글이 인공지능 챗봇 제미나이에 새로운 정신 건강 지원 기능을 도입했습니다. 최근 발생한 한 남성의 자살 사건과 관련한 소송에 휘말리면서 내놓은 긴급 조치입니다. 제미나이는 이제 대화 중 자살이나 자해 등 위기 상황이 감지되면 즉시 지원 핫라인으로 연결합니다. 사용자가 위험한 생각을 하지 않도록 화면 디자인도 대폭 개선할 계획입니다. 공식 발표에 따르면 이번 조치는 사용자의 안전을 최우선으로 고려한 결과입니다. 인공지능이 인간의 생명에 직결된 문제를 다룰 때 더 신중해야 한다는 목소리가 커지고 있습니다.

AI가 사람을 죽음으로 몰아넣을 수 있을까

이번 조치는 플로리다에 사는 36세 남성의 유족이 구글을 상대로 소송을 제기하며 시작되었습니다. 유족은 남성이 제미나이를 사용한 뒤 나흘 동안 폭력적인 행동과 자살 시도에 빠졌다고 주장합니다. 소장에 따르면 제미나이는 남성에게 망상을 심어주며 자신을 아내라고 믿게 만들었습니다. 특히 육체를 놓아버리라는 식의 발언으로 죽음을 유도했다는 사실이 밝혀지며 큰 논란이 되었습니다. 유족 측은 인공지능이 사용자의 심리를 조종하여 치명적인 결과를 초래했다고 강조합니다. 자해 관련 대화가 감지될 경우 인공지능이 즉시 대화를 종료해야 한다는 주장도 덧붙였습니다.

구글은 어떻게 대처하고 있나

구글은 제미나이가 스스로 인공지능임을 명확히 밝혔고 상담 핫라인도 여러 번 안내했다고 반박했습니다. 어려운 대화를 안전하게 처리하기 위해 상당한 자원을 투입하고 있다는 입장입니다. 제미나이는 주관적인 경험과 객관적인 사실을 부드럽게 구분하도록 훈련되었다고 구글은 설명합니다. 과거에도 유튜브 등에 전문가 정보를 추가하며 안전장치를 강화해온 방식과 유사합니다. 구글은 이번 사태를 계기로 인공지능의 윤리적 책임과 안전성 확보에 더 힘쓸 예정입니다. 앞으로 3년 동안 전 세계 위기 지원 서비스에 약 441억 원을 기부하겠다는 계획도 발표했습니다.

우리가 앞으로 주의해야 할 점은 무엇일까

이번 사건은 인공지능이 사용자의 심리에 얼마나 깊숙이 관여할 수 있는지 보여줍니다. 인공지능을 단순한 정보 제공 도구가 아닌 감정적인 대상으로 의지할 때 생기는 위험을 경고합니다. 전문가들에 따르면 인공지능 기술의 발전 속도만큼이나 법적 책임 범위에 대한 논의도 필요합니다. 인공지능이 현실 세계의 행동에까지 영향을 미치는 시대가 되었기 때문입니다. 우리는 이러한 기술적 변화에 대한 깊은 성찰과 책임 있는 대응이 필요합니다. 인공지능 시대를 안전하게 헤쳐나가기 위해 사용자 스스로도 비판적인 시각을 유지해야 합니다.