정책/윤리

“경찰이 거짓말해도 증거가 없다?” AI가 수사 기록을 삭제하는 세상

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.11 06:36

기사 3줄 요약

1 경찰 AI 보고서 툴, ‘증거 삭제’ 기능 고의 설계 논란
2 EFF, “AI가 경찰 보고서 수정 기록 숨겨 책임 회피 도와”
3 사법 시스템 투명성 위기, 일부 지역 사용 금지 움직임

미국 경찰이 사용하는 한 인공지능(AI) 프로그램이 뜨거운 감자로 떠올랐습니다. 경찰의 보고서 작성을 돕는 이 AI가 ‘증거 인멸’을 하도록 설계되었다는 주장이 제기된 것입니다. 시민의 안전과 직결된 사법 시스템의 투명성을 뒤흔드는 사건입니다. 최근 디지털 권리 보호 단체인 전자프론티어재단(EFF)은 AI 경찰 보고서 작성 툴 ‘드래프트 원(Draft One)’에 대한 조사 결과를 발표했습니다. 이 툴은 경찰의 보디캠 음성 파일을 분석해 보고서 초안을 자동으로 생성하는 프로그램입니다. 문제는 이 툴이 보고서의 어떤 부분이 AI에 의해 작성됐는지 기록을 남기지 않고, 수정 전 초안도 즉시 삭제한다는 점입니다.

AI가 보고서를 쓰는데, 왜 문제가 되는 거지?

드래프트 원은 경찰관이 현장 음성 기록을 바탕으로 보고서를 더 빨리 작성하도록 돕는 도구입니다. 경찰관은 AI가 만든 초안을 검토하고 수정해 최종 보고서를 완성합니다. 하지만 EFF는 이 과정에서 심각한 허점이 있다고 지적합니다. 만약 AI가 상황을 잘못 해석하거나, 경찰관이 자신에게 불리한 내용을 고의로 수정해도 이를 확인할 방법이 없습니다. 수정 전 원본이나 수정 이력이 남지 않기 때문입니다. 이는 AI의 오류인지, 담당자의 의도적인 왜곡인지 가려낼 수 없게 만들어 책임 추궁을 원천적으로 차단합니다.

개발사는 일부러 이렇게 만들었다고?

더욱 놀라운 사실은 개발사인 ‘액손(Axon)’이 이러한 기능이 의도된 설계라고 인정한 점입니다. 액손 측은 “고객(경찰)의 정보 공개로 인한 골칫거리를 만들고 싶지 않다”며, 초안을 저장하지 않는 것이 하나의 기능이라고 설명했습니다. EFF는 이를 두고 “판사나 변호사, 시민단체 등 외부의 감시를 피하려는 의도”라고 강하게 비판했습니다. 실제로 과거 이 프로그램에서 경찰관이 초안을 읽지 않고도 보고서를 제출할 수 있었던 버그가 발견되기도 했습니다. 결국 기술의 허점을 악용해 경찰이 책임을 회피할 수 있는 ‘방패막이’를 제공하는 셈입니다.

그럼 앞으로 어떻게 되는 걸까?

이러한 AI 보고서는 사법 시스템의 공정성을 크게 해칠 수 있습니다. 경찰관이 법정에서 위증을 하고 AI 탓으로 돌려도 반박할 증거가 없기 때문입니다. 문제의 심각성을 인지한 일부 지역에서는 대응에 나섰습니다. 미국 캘리포니아주는 보고서에 AI 작성 부분을 명시하고 초안을 보관하도록 하는 법안을 추진 중입니다. 워싱턴주 킹카운티 검찰청은 아예 이 AI의 사용을 금지했습니다. 기술의 효율성이라는 명분 아래 사법 정의의 기본 원칙인 투명성과 책임성이 훼손되어서는 안 된다는 목소리가 커지고 있습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr