정책/윤리

AI 경찰, 가짜 신분으로 당신 계정 감시 중? 법적 문제 심각

댓글 0 · 저장 0 2025.04.20 22:51

기사 3줄 요약

1 AI 활용 경찰 잠복수사, 함정수사 및 편견 논란 제기
2 가짜 AI 신분 생성, 개인 프라이버시 침해 우려 커져
3 AI 경찰 도입, 법적 윤리적 안전장치 마련 시급

만약 당신이 온라인에서 새로 사귄 친구나 대화 상대가, 사실은 경찰이 범죄 수사를 위해 만든 인공지능(AI)이라면 어떨까요? 최근 미국에서는 실제로 이런 AI를 활용한 온라인 잠복수사가 시도되면서 큰 논란이 일고 있습니다. 범죄자를 잡기 위한 첨단 기술이지만, 이게 과연 법적으로나 윤리적으로 괜찮은 건지 따져봐야 할 문제가 한두 가지가 아닙니다.

AI 경찰, 함정수사 위험 없나?

가장 큰 걱정은 바로 '함정수사' 가능성입니다. 함정수사란, 원래 범죄를 저지를 생각이 없던 사람을 경찰이 꾀거나 압박해서 범죄를 저지르게 만드는 것을 말합니다. 법원은 경찰이 수사 대상자가 원래부터 범죄를 저지를 의도가 있었다는 것을 명확히 증명해야 한다고 봅니다. 그런데 AI는 사람보다 더 교묘하게 사람의 약점을 파고들 수 있습니다. 예를 들어, AI가 당신의 온라인 활동 기록을 분석해서 당신이 돈이 급하다는 걸 알아내고, 계속해서 불법적인 일에 참여하도록 끈질기게 유혹한다고 상상해보세요. 혹은 과거 약물 중독 경험이 있는 사람에게 동정심에 호소하며 마약을 구해달라고 계속 부탁한다면? 이건 명백히 범죄 의도를 '만들어내는' 행위로, 함정수사에 해당할 수 있습니다.

편견 학습한 AI, 특정 그룹만 표적 삼을 수도

또 다른 심각한 문제는 AI의 '편견'입니다. AI는 개발자가 입력한 데이터를 기반으로 학습합니다. 만약 이 데이터 자체에 특정 인종이나 성별, 지역에 대한 편견이 담겨 있다면, AI는 그 편견을 그대로 학습하고 심지어 더 증폭시킬 수도 있습니다. 예를 들어, 과거 범죄 통계 데이터를 학습한 AI가 특정 인종 그룹을 잠재적 마약사범으로 분류하고, 이들 그룹의 사용자들만 집중적으로 감시하거나 유인하는 잠복수사를 펼칠 수 있다는 겁니다. 실제로 이런 AI의 편향성 문제는 '예측 치안' 시스템 등 다른 분야에서도 꾸준히 지적되어 왔습니다. 기술이 오히려 사회적 차별을 고착화시키는 도구가 될 수 있다는 우려가 나오는 이유입니다.

AI로 가짜 아동 신분까지? 선 넘는 수사 방식

더욱 충격적인 것은 경찰이 'AI로 만든 가짜 어린이 신분'을 이용하는 경우입니다. 온라인 그루밍이나 아동 성착취 범죄를 잡기 위한 목적이라지만, 이는 매우 위험하고 윤리적으로도 큰 문제가 있습니다. 가짜 아동 신분을 이용해 대화를 유도하는 것 자체가 잠재적 피해자를 만들거나, 심지어 법에서 금지하는 아동 음란물 제작 및 유포에 해당할 수도 있기 때문입니다. 이런 방식은 설령 범죄자를 잡는 데 성공하더라도, 수사 과정 자체가 또 다른 문제를 일으킬 소지가 큽니다. 실제로 미국 애리조나주의 한 경찰서는 이런 AI 기술을 도입했지만, 아직 이 기술로 체포한 사례는 없다고 밝혀 실효성에 대한 의문과 함께 잠재적 위험성에 대한 비판도 받고 있습니다.

투명한 정보 공개와 강력한 감독 필요

물론 AI가 방대한 데이터를 분석해 인간이 놓치기 쉬운 범죄 단서를 찾아내는 등 긍정적인 역할도 할 수 있습니다. 인신매매나 마약 범죄처럼 심각한 범죄를 예방하고 해결하는 데 도움이 될 수도 있죠. 하지만 그렇다고 해서 AI 경찰의 잠재적 위험성을 무시할 수는 없습니다. 전문가들은 AI를 잠복수사에 활용하려면 몇 가지 안전장치가 반드시 필요하다고 강조합니다. 어떤 AI 시스템을 사용하는지, 어떤 데이터를 학습했는지 투명하게 공개해야 합니다. 또, AI 시스템이 공정하게 작동하는지 독립적인 기관이 정기적으로 감사하고, 최종적인 판단과 결정은 반드시 사람이 내려야 한다는 것입니다. 기술이 아무리 발전해도, 시민의 권리를 보호하고 공정한 법 집행을 위한 책임은 결국 사람에게 있기 때문입니다.