정책/윤리

“9명 사망 막을 수 있었다” 챗GPT 경고 무시한 최후

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.02.22 09:05

기사 3줄 요약

1 캐나다 총기 난사범, 챗GPT에 계획 털어놔
2 직원 신고 요청에도 오픈AI 경영진 묵살
3 9명 사망 후 AI 기업 윤리 책임 논란 점화

캐나다의 한 작은 마을에서 끔찍한 총기 난사 사건이 발생해 전 세계가 충격에 빠졌습니다. 범인은 범행 수개월 전부터 인공지능(AI)에게 자신의 끔찍한 계획을 털어놓았던 것으로 밝혀졌습니다. 하지만 이 신호를 감지한 AI 기업이 경찰 신고를 거부했다는 사실이 알려지며 논란이 커지고 있습니다.

살인 예고 들은 AI, 그리고 묵살된 경고

지난 2026년 2월, 캐나다 텀블러 릿지에서 제스 밴 루트셀라르가 총기를 난사해 9명이 숨지는 비극이 일어났습니다. 놀랍게도 범인은 사건 발생 몇 달 전, 챗GPT와 대화하며 총기 폭력 시나리오를 구체적으로 묘사했습니다. 오픈AI의 자동 검토 시스템은 즉각 위험 신호를 감지했고 내부 직원들도 상황의 심각성을 인지했습니다. 직원들은 이 대화가 실제 폭력으로 이어질 수 있다며 경영진에게 즉시 당국에 알릴 것을 강력히 권고했습니다. 범인이 묘사한 시나리오가 단순한 장난으로 보기에는 지나치게 구체적이고 위험했기 때문입니다. 하지만 회사의 결정은 직원들의 간절한 요청과는 정반대로 흘러가고 말았습니다.

“직접적 위협 아니다” 안일한 판단이 부른 참사

오픈AI 측은 해당 계정을 법 집행기관에 넘길지 검토했으나 결국 신고하지 않기로 결론 내렸습니다. 범인의 대화 내용이 ‘타인에 대한 임박하고 확실한 위협’이라는 기준에는 미치지 못한다고 판단했기 때문입니다. 회사는 단순히 범인의 계정을 차단하는 조치만 취했을 뿐, 경찰에는 어떠한 정보도 제공하지 않았습니다. 이러한 결정은 ‘개인정보 보호’와 ‘안전’ 사이에서 균형을 맞추려는 회사의 정책 때문인 것으로 보입니다. 오픈AI 대변인은 과도한 신고가 오히려 사용자에게 의도치 않은 피해를 줄 수 있다고 해명했습니다. 하지만 결과적으로 9명의 소중한 목숨을 앗아간 참사가 발생하며 회사의 판단은 거센 비판을 피할 수 없게 되었습니다.

뒤늦은 협조, 하지만 돌이킬 수 없는 결과

사건 직후 오픈AI는 캐나다 연방경찰(RCMP)에 범인의 정보와 챗GPT 사용 기록을 넘기며 수사에 협조하고 있습니다. 하지만 이미 많은 사람이 목숨을 잃은 뒤라 ‘사후약방문’이라는 비판이 쏟아지고 있는 상황입니다. 이번 사건은 AI 기업이 범죄 징후를 포착했을 때 어디까지 책임져야 하는지에 대한 묵직한 과제를 남겼습니다. 전문가들은 AI 기술이 발전함에 따라 기업의 윤리적 책임 기준도 더욱 강화되어야 한다고 지적합니다. 단순히 계정을 정지하는 것을 넘어, 구체적인 위험 신호에는 사법 당국과 즉각 협력하는 시스템이 필요합니다. 기술의 발전이 또 다른 비극의 방조자가 되지 않도록 사회적 합의와 제도 마련이 시급한 시점입니다.