정책/윤리

英 "살인 예측 AI" 충격! 범죄 안 저질렀는데 체포?...논란 폭발

댓글 0 · 저장 0 2025.04.11 11:04

기사 3줄 요약

1 영국, 50만 명 개인정보로 살인 예측 시스템 개발 중
2 전과자뿐 아니라 피해자·목격자 정보까지 수집해 논란
3 시민단체 "소수 인종·저소득층 차별 우려" 강력 비판

영국 정부가 범죄 예측 시스템을 개발해 논란이 커지고 있습니다. 영화 '마이너리티 리포트'에서나 볼 법한 일이 현실에서 벌어지고 있는 건데요. 이 시스템이 도대체 뭐길래 이렇게 큰 논란이 되고 있는 걸까요?

'살인 예측 시스템'이라니, 무슨 소리죠?

영국 법무부가 경찰과 협력해 개발 중인 이 시스템은 원래 '살인 예측 프로젝트'라는 이름이었습니다. 하지만 워낙 논란이 커지자 '위험 평가 개선을 위한 데이터 공유'라는 좀 더 순화된 이름으로 바꿨습니다. 이 시스템은 최대 50만 명의 개인 데이터를 분석해 누가 살인을 저지를 가능성이 높은지 예측한다고 합니다. 정부 측은 "보호관찰 중인 사람들의 폭력 위험성을 더 잘 이해하기 위한 것"이라고 설명하고 있습니다.

어떤 데이터를 수집하나요?

이 알고리즘이 분석하는 데이터는 정말 광범위합니다. 이름, 생년월일, 성별, 인종과 같은 기본 정보는 물론이고요. 범죄 기록, 정신 건강 상태, 중독 여부, 자해 이력, 자살 위험, 취약성, 장애 여부까지 포함됩니다. 더 충격적인 건, 이 데이터에는 전과자뿐 아니라 피해자, 목격자, 심지어 경찰과 접촉한 적이 있는 사람들의 정보까지 포함된다는 점입니다. 심지어 가정폭력 피해자 정보까지 수집한다고 하니 프라이버시 침해 논란이 일 수밖에 없죠.

비판의 목소리는 무엇인가요?

시민단체 '스테이트워치'의 크리스 존스 대표는 "역사적으로 경찰 데이터는 소수 인종과 저소득층에 편향되어 있다"며 "이런 데이터로 예측 모델을 만들면 그 편향이 그대로 반영될 것"이라고 경고했습니다. 같은 단체의 소피아 라이얼 연구원은 이 시스템을 "섬뜩하고 디스토피아적인 사례"라고 표현하며, "정부가 소위 범죄 예측 시스템을 개발하려는 의도의 최신 사례"라고 비판했습니다. 비판론자들은 또한 이 접근법이 '마이너리티 리포트' 영화처럼 사람들이 아직 저지르지도 않은 범죄로 표적이 될 수 있다고 우려합니다. 이는 무죄 추정의 원칙이나 적법 절차와 같은 정의의 기본 원칙을 훼손할 수 있다는 겁니다.

정부의 입장은 어떤가요?

영국 법무부 대변인은 "이 프로젝트는 연구 목적으로만 수행되고 있다"며 "보호관찰 중인 사람들이 심각한 폭력을 저지를 위험성을 더 잘 이해하기 위한 것"이라고 해명했습니다. 또한 "처리되는 데이터는 이미 전과가 있는 사람들에 관한 것뿐"이라고 주장했는데요. 하지만 스테이트워치는 전과가 없는 사람들의 데이터도 포함된다고 반박하고 있습니다. 법무부는 또한 데이터가 익명화되어 개인을 식별할 가능성이 없다고 주장하지만, 재식별 가능성과 민감한 개인 데이터를 예측 목적으로 사용하는 것의 윤리적 함의에 대한 우려는 여전합니다.

이 프로젝트의 현재 상황은 어떤가요?

이 프로젝트는 원래 2024년 12월에 종료될 예정이었지만, 아직 진행 중입니다. 법무부는 조만간 보고서를 발표할 예정이라고 밝혔지만, 자세한 내용이나 향후 구현 계획은 아직 불분명합니다. 비판론자들은 "의심스럽고 인종차별적인 AI와 알고리즘"에 투자하는 대신, 사회 프로그램, 정신 건강 서비스, 지역사회 지원을 통해, 범죄의 근본 원인을 해결하는 데 초점을 맞추어야 한다고 주장합니다. 이런 대안적 접근법이 예측 알고리즘의 결함과 잠재적 차별보다 더 전체적이고 지속 가능한 범죄 예방 경로를 제공할 수 있다는 것이죠. 현재로선 영국의 '살인 예측 시스템'이 영화 속 디스토피아처럼 실제로 구현될지, 아니면 연구 단계에서 끝날지는 불분명합니다. 하지만 이 논쟁은 AI와 알고리즘이 범죄 예방에 어떻게 사용되어야 하는지, 또 그 한계는 어디까지인지에 대한 중요한 질문을 던지고 있습니다.