정책/윤리

“경찰도 속았다” 코파일럿이 지어낸 가짜 정보에 영국 발칵

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.14 23:39

기사 3줄 요약

1 영국 경찰, AI 가짜 정보로 보고서 작성
2 코파일럿이 없는 축구 경기 날조해
3 엉터리 정보에 축구 팬들만 경기 금지

영국 경찰이 인공지능(AI)이 만들어낸 가짜 정보를 믿고 공식 보고서를 작성하는 초유의 사태가 벌어졌습니다. 범죄를 예방하고 정확한 정보를 다뤄야 할 경찰 조직이 AI의 거짓말에 속아 넘어간 것입니다. 이 사건으로 인해 아무 잘못 없는 축구 팬들이 경기장 입장을 금지당하는 피해까지 발생했습니다. 영화에서나 볼 법한 일이 현실에서 일어난 이번 사건은 AI 기술의 맹점을 적나라하게 보여주고 있습니다.

AI가 만들어낸 ‘유령 축구 경기’

영국 웨스트미들랜즈 경찰은 최근 정보 보고서 작성을 위해 마이크로소프트의 생성형 AI인 ‘코파일럿(Copilot)’을 사용했습니다. 그런데 여기서 문제가 터졌습니다. 코파일럿은 과거에 있지도 않았던 ‘웨스트햄’과 ‘마카비 텔아비브’라는 두 팀의 축구 경기가 실제로 열렸던 것처럼 정보를 날조했습니다. 심지어 그 경기에서 폭력 사태가 있었다는 구체적인 거짓말까지 덧붙였습니다. 경찰은 이 내용을 사실 확인 없이 그대로 정보 보고서에 담았습니다. 이 엉터리 보고서를 근거로 당국은 이스라엘 축구팀 팬들의 경기장 입장을 막아버렸습니다. 존재하지도 않는 유령 경기 때문에 애꿎은 팬들만 피해를 본 황당한 상황이 연출된 것입니다.

거짓말하다 딱 걸린 경찰 서장

사건 초기 경찰의 태도는 더욱 실망스러웠습니다. 크레이그 길드포드 서장은 처음에는 AI를 사용했다는 사실 자체를 강력하게 부인했습니다. 그는 오류의 원인을 단순히 소셜 미디어 정보를 긁어모으다 생긴 실수라고 둘러댔습니다. 하지만 논란이 커지자 결국 말을 바꿨습니다. 그는 의회 위원회에 보낸 편지를 통해 코파일럿을 사용하다가 오류가 발생했다고 뒤늦게 시인했습니다. 기술적 오류보다 더 무서운 것은 실수를 감추려 했던 인간의 태도라는 비판이 쏟아지고 있습니다.

AI는 가끔 ‘환각’을 본다

이번 사건의 핵심 원인은 ‘할루시네이션(Hallucination)’이라고 불리는 AI의 환각 현상입니다. 생성형 AI는 방대한 데이터를 학습해 답변을 내놓지만, 가끔 사실이 아닌 정보를 마치 진실인 것처럼 뻔뻔하게 답변하는 경우가 있습니다. 마치 환각을 보는 것처럼 없는 일을 지어낸다고 해서 붙여진 이름입니다. 전문가들은 AI가 문장을 매끄럽게 만드는 능력은 탁월하지만, 그 내용의 진위 여부를 판단하는 능력은 없다고 경고합니다. 더 버지(The Verge)의 테스트 결과에서도 코파일럿이 종종 정보를 날조한다는 사실이 확인되었습니다. 마이크로소프트 역시 서비스 하단에 ‘실수가 있을 수 있다’고 경고하고 있습니다.

편리함 뒤에 숨겨진 함정

이번 사건은 우리에게 중요한 교훈을 남깁니다. 아무리 뛰어난 기술이라도 맹신해서는 안 된다는 점입니다. 특히 경찰 수사나 공공 행정처럼 사람들의 권리에 직접적인 영향을 미치는 분야에서는 더욱 철저한 검증이 필요합니다. AI는 훌륭한 도구일 수 있지만, 최종적인 판단과 책임은 결국 인간의 몫입니다. 편리함에 취해 팩트 체크를 소홀히 한다면, 기술은 언제든지 우리를 배신할 수 있는 흉기가 될 수 있습니다. 이번 해프닝이 단순한 실수가 아니라 다가올 미래에 대한 강력한 경고로 받아들여져야 하는 이유입니다.