정책/윤리

'소수 의견 보고서' 현실화되나... 英 '살인 예측' AI 도입, 인권단체 "인간 잠재력 말살" 경고

댓글 0 · 저장 0 2025.04.09 09:40

기사 3줄 요약

1 英 법무부, 범죄자 50만명 데이터로 '살인 예측' AI 개발 추진.
2 정신건강 등 민감정보 포함에 '인권침해' 우려 확산.
3 비판 직면해 '데이터 공유 통한 위험 평가 개선'으로 명칭 변경.

영국의 '살인 예측' AI, 사생활 감시사회 우려 확산

영국 법무부가 최대 50만 명의 개인정보를 활용해 '살인 예측' 알고리즘을 개발하고 있어 논란이 커지고 있습니다. 시민자유 감시단체 '스테이트워치(Statewatch)'가 발견한 이 프로젝트는 처음에 '살인 예측 프로젝트(homicide prediction project)'라는 이름으로 시작됐지만, 비판이 일자 '데이터 공유를 통한 위험 평가 개선'이라는 이름으로 급히 변경됐습니다. 이 시스템은 영국 교도소 및 보호관찰 서비스와 경찰이 보유한 전과자 데이터를 활용해 누가 심각한 폭력 범죄를 저지를 가능성이 높은지 예측하는 것을 목표로 합니다. 특히 우려되는 점은 이 데이터에 정신건강 기록, 중독 이력, 자살 시도, 자해 위험, 장애 여부 등 매우 민감한 개인정보가 포함된다는 사실입니다. 영국 법무부는 "이 프로젝트는 순전히 연구 목적으로만 진행되고 있으며, 보호관찰 중인 사람들이 심각한 폭력을 저지를 위험을 더 잘 이해하기 위한 것"이라고 해명했습니다. 그러나 비판론자들은 이러한 주장에 의문을 제기하고 있습니다. 법 집행기관이 AI와 맺어온 관계는 오랫동안 의심스러웠으며, 알고리즘적 편향과 임무 확대라는 내재된 위험이 있기 때문입니다.

알고리즘 편향성과 차별 우려

비판론자들은 이 시스템이 기존의 사회적 편향, 특히 유색인종과 저소득층 커뮤니티에 대한 차별을 증폭시킬 수 있다고 우려합니다. 역사적으로 치우친 데이터를 기반으로 하는 예측 알고리즘은 이미 편향된 결과를 재생산하는 경향이 있기 때문입니다. 가령, 특정 지역에 경찰력이 집중되면 그 지역에서 더 많은 범죄가 기록되고, 이는 다시 더 많은 경찰력 배치로 이어지는 악순환이 생길 수 있습니다. 이런 피드백 루프는 결국 알고리즘이 특정 인구 집단을 잠재적 범죄자로 불공정하게 지목하는 자기 성취적 예언으로 작용할 수 있습니다. 또한 '오탐(false positive)'의 문제도 심각합니다. 알고리즘이 누군가를 잠재적 살인자로 잘못 분류할 경우, 그 사람은 부당한 감시, 괴롭힘, 심지어 잘못된 기소까지 당할 수 있습니다. 이는 개인의 삶을 파괴하고 법 집행 기관에 대한 공공 신뢰를 심각하게 훼손할 수 있습니다.

데이터 수집 범위와 개인정보 보호 문제

영국 법무부와 그레이터 맨체스터 경찰 간의 데이터 공유 계약에 따르면, 이 프로젝트는 10만~50만 명에 달하는 방대한 인구 집단의 데이터를 처리하는 것으로 나타났습니다. 더 놀라운 것은 이 데이터에 범죄자뿐만 아니라 피해자와 목격자의 정보까지 포함될 수 있다는 점입니다. 정신 건강, 중독, 자살 및 자해 이력과 같은 '특별 범주의 개인 데이터'의 포함은 특히 우려됩니다. 이러한 민감한 정보는 낙인찍기, 부당한 감시, 기회 박탈로 이어질 수 있으며, 이는 개인의 사생활권을 심각하게 침해합니다.

대안적 접근법과 향후 과제

범죄 예방에 있어 보다 윤리적이고 효과적인 대안으로는 지역사회 기반 프로그램, 정신 건강 서비스, 조기 개입 전략에 투자하는 것이 있습니다. 이러한 접근법은 범죄의 근본 원인을 해결하고 사회적 포용을 증진하는 데 중점을 둡니다. 법 집행 기관은 차별을 영속화하고 시민의 자유를 침식하는 결함 있는 예측 알고리즘에 의존하기보다, 지역사회와 신뢰를 구축하고 협력하여 범죄를 예방하는 데 초점을 맞춰야 합니다. 결론적으로, 영국의 '살인 예측' 알고리즘은 향상된 공공 안전이라는 환상적 약속을 제공하는 대신 기본적 권리와 자유를 희생시키는 파우스트적 거래를 제시합니다. 이 기술적 시도가 디스토피아적 악몽으로 변질되는 것을 막기 위해서는 엄격한 윤리적 프레임워크와 강력한 감독 및 책임 메커니즘이 시급히 필요합니다.