정책/윤리

“질문 잘못하면 큰일?” 챗GPT, 범죄 징후 경찰에 즉시 신고

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.02.27 10:33

기사 3줄 요약

1 캐나다 총기 난사범, 챗GPT로 범죄 시나리오 모의
2 오픈AI, 범죄 징후 포착 시 수사기관 즉시 통보 결정
3 범죄 예방 효과 기대 속 사생활 침해 우려 확산

내가 무심코 챗봇에게 던진 질문 때문에 경찰이 집으로 찾아온다면 어떨까요. 영화 속 이야기 같지만 이제 현실이 될 수도 있습니다. 오픈AI가 범죄 징후를 사전에 포착하고 수사기관에 알리는 시스템을 대폭 강화하기로 했기 때문입니다. 캐나다에서 발생한 끔찍한 총기 사건이 결정적인 계기가 되었습니다. AI 기술이 발전할수록 우리의 안전과 사생활 사이의 줄타기는 더욱 아슬아슬해지고 있습니다. 과연 어떤 일이 있었길래 이런 강력한 조치가 나온 걸까요.

끔찍한 사건이 발생했어

지난 2월 캐나다 텀블러리지에서 충격적인 총기 난사 사건이 일어났습니다. 이 사건으로 무려 9명이 목숨을 잃었습니다. 그런데 놀랍게도 용의자가 범행을 준비하는 과정에서 챗GPT를 사용했다는 사실이 밝혀졌습니다. 용의자는 범행 전 AI에게 총기 폭력과 관련된 시나리오를 반복적으로 물어봤습니다. 로이터통신에 따르면 오픈AI는 이미 지난해 6월 이 용의자의 계정을 감지하고 정지시켰습니다. 하지만 경찰에는 신고하지 않았습니다. 당시 기준으로는 ‘즉각적인 위협’으로 보이지 않았기 때문입니다. 결국 용의자는 다른 계정을 만들어 감시망을 피했고 끔찍한 범행을 저질렀습니다.

오픈AI가 칼을 빼들었어

사건 이후 비난 여론이 거세지자 오픈AI는 태도를 완전히 바꿨습니다. 캐나다 정부에 서한을 보내 안전 조치를 강화하겠다고 약속했습니다. 이제부터는 AI가 대화 내용을 분석해 범죄 가능성이 보이면 즉시 수사기관에 통보하겠다는 것입니다. 오픈AI는 캐나다 사법당국과 직접 소통할 수 있는 핫라인을 개설하기로 했습니다. 앤 오리어리 오픈AI 부사장은 이번에 강화된 절차가 있었다면 용의자를 미리 경찰에 알렸을 것이라고 인정했습니다. 앞으로는 계정 정지에서 끝나지 않고 실제 신고로 이어지게 됩니다.

감시와 안전 사이의 딜레마

이번 조치로 범죄 예방 효과는 확실히 높아질 것으로 보입니다. 하지만 동시에 ‘내 대화가 감시당하고 있다’는 불안감도 커질 수밖에 없습니다. 소설을 쓰기 위해 범죄 관련 내용을 물어봤다가 오해를 받을 수도 있기 때문입니다. 결국 기술의 발전이 우리에게 새로운 숙제를 던져주었습니다. 범죄를 막기 위한 필수적인 조치라는 의견과 과도한 사생활 침해라는 비판이 팽팽하게 맞서고 있습니다. 여러분은 AI의 감시 기능을 어디까지 허용해야 한다고 생각하나요.