정책/윤리

“이게 총으로 보인다고?” AI 보안 시스템, 과자봉지 때문에 학생에게 수갑 채워

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.26 04:52

기사 3줄 요약

1 AI 보안 시스템, 과자 봉지를 총으로 오인해 학생 체포
2 개발사 “시스템은 의도대로 작동” 주장하며 논란 가중
3 AI 감시 기술의 정확성과 인권 침해 문제 수면 위로

과자 봉지를 들고 있었다는 이유만으로 한 고등학생이 경찰에게 수갑이 채워지는 황당한 일이 벌어졌습니다. 최첨단 인공지능(AI) 보안 시스템이 과자 봉지를 총으로 잘못 인식하면서 벌어진 소동입니다. 기술의 발전이 오히려 어처구니없는 인권 침해를 낳을 수 있다는 우려의 목소리가 커지고 있습니다.

그래서, 대체 무슨 일이 있었던 거야?

미국 메릴랜드주 볼티모어 카운티의 켄우드 고등학교에 다니는 타키 앨런은 최근 잊을 수 없는 경험을 했습니다. CNN 제휴사 WBAL에 따르면, 앨런은 두 손으로 도리토스 과자 봉지를 들고 있었을 뿐이었습니다. 하지만 학교에 설치된 AI 총기 탐지 시스템은 이 모습을 '총기 소지 가능성'으로 판단해 경보를 울렸습니다. 결국 앨런은 출동한 경찰에 의해 무릎을 꿇은 채 수갑까지 차게 되었습니다. 그는 "정말 황당했다"며 당시 상황을 전했습니다.

시스템은 정상 작동했다고? 이게 맞아?

더욱 논란이 된 것은 AI 시스템 개발사 '옴니러트(Omnilert)'의 반응이었습니다. 옴니러트는 성명을 내고 “이번 사건에 대해 유감을 표한다”면서도 “프로세스는 의도한 대로 작동했다”고 주장했습니다. 위협 가능성을 감지하고 경고를 보냈으니 시스템 자체의 잘못은 아니라는 입장입니다. 하지만 많은 사람들은 과자 봉지를 총으로 오인하는 시스템을 어떻게 신뢰할 수 있냐며 비판하고 있습니다. 학교 측 역시 경보 취소 사실을 제때 파악하지 못하고 경찰에 신고해 사태를 키웠습니다.

AI를 너무 믿으면 안 되는 이유

이번 사건은 AI 기술의 한계를 명확히 보여줍니다. AI는 학습된 데이터를 기반으로 판단하기 때문에, 데이터가 완벽하지 않거나 예상치 못한 상황이 발생하면 얼마든지 오류를 일으킬 수 있습니다. 실제로 과거 다른 학교에서는 실제 총격 사건이 발생했을 때 AI 시스템이 총기를 전혀 탐지하지 못했던 사례도 있었습니다. 전문가들은 AI를 맹신하는 '자동화 편향'을 경계해야 한다고 지적합니다. AI는 어디까지나 보조 도구일 뿐, 최종 판단과 책임은 사람이 져야 한다는 것입니다. 결국 이번 해프닝은 우리에게 중요한 질문을 던집니다. 안전을 위해 도입한 기술이 오히려 우리의 자유와 인권을 위협하고 있지는 않은지, 기술과 인간이 어떻게 조화를 이뤄야 할지에 대한 깊은 고민이 필요해 보입니다.