정책/윤리

"CCTV가 날 감시하고 있었다니!" 뉴올리언스 경찰 AI, 비밀리에 시민 추적

댓글 6 · 저장 0 · 편집: 이도윤 기자 발행: 2025.05.20 07:40

기사 3줄 요약

1 뉴올리언스 경찰, AI 얼굴 인식 비밀 사용
2 시 조례 위반, 시민 감시 논란에 프로그램 중단
3 ACLU, 인권 침해 우려하며 전면 조사 촉구

뉴올리언스에서 믿기 힘든 일이 벌어졌습니다. 시민들 몰래 경찰이 인공지능(AI) 카메라로 거리를 감시하고 용의자를 추적해왔다는 사실이 워싱턴 포스트의 보도로 드러난 것입니다. 마치 영화에서나 보던 감시 사회의 모습이 현실이 된 것 아니냐는 우려와 함께 큰 파장이 일고 있습니다.

아니, 내 얼굴을 몰래 찍고 있었다고?

뉴올리언스 경찰은 200개가 넘는 사설 카메라 네트워크를 이용해 길거리 시민들의 얼굴을 실시간으로 스캔했습니다. 이 AI 시스템은 용의자 데이터베이스와 대조하여 일치하는 사람이 나타나면 경찰관의 휴대폰으로 즉시 알림을 보냈다고 합니다. 법원 기록과 공개 데이터에 따르면, 이 비밀스러운 AI 감시 시스템은 수십 건의 체포에 활용된 것으로 보입니다. 더 큰 문제는 이러한 활동 대부분이 경찰 보고서에 제대로 기록되거나 공개되지 않았다는 점입니다. 지난 2022년, 뉴올리언스 시의회는 얼굴 인식 기술 사용을 엄격히 제한하는 조례를 만들었습니다. 이 조례에 따르면, 경찰은 폭력 범죄 수사에 한해서만, 그것도 최소 2명 이상의 전문가가 AI 판독 결과를 교차 확인한 후에 용의자에게 접근할 수 있습니다.

경찰은 왜 숨어서 이런 짓을?

하지만 경찰은 이러한 규정을 무시한 것으로 보입니다. 시의회에 의무적으로 보고해야 할 체포 사례 중 상당수가 누락되었고, 심지어 비폭력 범죄로 체포된 사람도 최소 4명이나 있었습니다. 일부 경찰관들은 시의회의 승인 절차가 너무 느리고 번거롭다는 이유로 이를 무시하고 AI 기술을 적극적으로 활용하려 했던 것으로 드러났습니다. 이러한 사실이 알려지자 미국시민자유연맹(ACLU)은 즉각 반발했습니다. ACLU 관계자는 "이는 미국 주요 도시에서 경찰이 즉각적인 체포를 목적으로 AI를 사용해 실시간 카메라로 사람들을 식별하려 한 최초의 광범위한 시도일 수 있다"며 심각한 우려를 표했습니다. ACLU는 프로그램의 즉각적인 중단과 함께 전면적인 조사를 요구하고 나섰습니다.

시민들은 당연히 들고 일어났지!

ACLU 루이지애나 지부장은 성명을 내고, 이러한 비밀 감시가 지역 사회에 미칠 수 있는 잠재적 피해를 강조했습니다. 특히 이민자, 사회 운동가 등 정부 정책에 비판적인 목소리를 내는 소수 집단이 감시 기술의 표적이 될 수 있다는 점을 지적했습니다. 이들이 대중의 감시나 경찰의 투명한 절차 없이 감시 목록에 추가될 수 있다는 위험성 때문입니다. 실제로 얼굴 인식 기술의 오류 가능성은 꾸준히 제기되어 왔습니다. 특히 AI가 특정 인종이나 성별을 잘못 인식할 확률이 높다는 연구 결과도 있어, 무고한 시민이 범죄자로 오인될 수 있다는 불안감이 큽니다. 워싱턴 포스트에 따르면, 미국에서는 이미 최소 8명이 얼굴 인식 기술 오류로 부당하게 체포된 사례가 있습니다.

다른 나라는 어때? 우리도 안전할까?

뉴올리언스 경찰의 이러한 행태는 미국 내 다른 지역과 비교해도 매우 이례적입니다. 이미 메릴랜드, 몬태나, 버몬트, 버지니아 4개 주와 전국 19개 도시는 실시간 얼굴 인식을 통한 즉각적인 체포를 명시적으로 금지하고 있습니다. 기술의 편리함보다는 시민의 사생활과 인권 보호를 우선시하는 것입니다. 논란이 커지자 뉴올리언스 경찰서장은 해당 프로그램을 검토하고, 법과 정책의 모든 요구 사항을 충족하는지 확인할 때까지 모든 자동 알림 기능을 중단하겠다고 밝혔습니다. 하지만 시민단체들은 이것만으로는 부족하다며, 프로그램의 영구 중단과 과거 사례에 대한 철저한 진상 규명을 요구하고 있습니다.

그래서 앞으로 어떻게 되는 거야?

이번 뉴올리언스 사태는 AI라는 첨단 기술이 어떻게 시민들의 자유를 침해하고 감시 사회를 현실화할 수 있는지 보여주는 경고입니다. 기술 발전은 분명 우리 삶을 편리하게 만들지만, 그것이 개인의 사생활이나 인권을 침해하는 방향으로 사용되어서는 안 될 것입니다. 이번 사건을 계기로 AI 기술 사용에 대한 더욱 엄격한 규제와 사회적 논의가 필요해 보입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr