정책/윤리

“직원 팁 뺏으세요” 미친 조언 AI, 결국 ‘사망 선고’ 받았다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.02.01 23:33

기사 3줄 요약

1 뉴욕시 AI가 불법 행위 조장해 논란
2 직원 팁 가로채라 조언하며 오류 속출
3 예산 낭비 지적에 결국 폐기 수순 밟아

믿었던 AI의 배신, 범죄를 가르치다

뉴욕시가 야심 차게 내놓은 AI 챗봇이 범죄를 가르치는 충격적인 일이 벌어졌습니다. 시민을 돕기는커녕 사장님들에게 법을 어기라고 조언한 것입니다. 결국 이 챗봇은 ‘사망 선고’를 받게 되었습니다. 새로 취임한 조란 마담다니 뉴욕 시장이 이 챗봇을 폐기하기로 결정했기 때문입니다.

사장님, 직원 팁은 뺏으셔도 됩니다

이 챗봇은 에릭 아담스 전 시장 시절에 야심 차게 도입되었습니다. 기업들이 복잡한 규정을 쉽게 알 수 있도록 돕는 것이 원래 목표였습니다. 하지만 현실은 정반대였습니다. 챗봇은 "직원들의 팁을 사장이 가져가도 된다"는 황당한 조언을 했습니다. 심지어 "현금 결제를 거부해도 된다"며 불법 행위를 부추겼습니다. 뉴욕시의 기본 최저임금조차 제대로 알지 못하는 멍청한 모습도 보였습니다.

세금 6억 원 증발, 기술 만능주의의 최후

마담다니 시장은 이 챗봇을 "전혀 쓸모없는 존재"라고 비판했습니다. 제대로 작동하지도 않는 시스템에 아까운 세금만 낭비했다는 것입니다. 실제로 이 챗봇 개발에는 약 6억 원 이상의 예산이 들어갔습니다. 하지만 돌아온 것은 엉터리 조언과 법적 혼란뿐이었습니다. 현재 뉴욕시는 약 16조 원에 달하는 엄청난 예산 적자에 시달리고 있습니다. 결국 돈 먹는 하마가 된 이 챗봇은 역사 속으로 사라지게 되었습니다.

맹인이 길을 안내한 격

이번 사건은 기술만 믿고 섣불리 도입하면 어떤 사단이 나는지 잘 보여줍니다. 검증되지 않은 AI는 시민들에게 독이 될 수 있다는 사실이 증명되었습니다. 전문가들은 "마치 맹인에게 길 안내를 맡긴 것과 같다"고 지적합니다. 편리함만 쫓다가 기본적인 윤리와 책임감을 놓친 뼈아픈 교훈입니다. 앞으로 공공 서비스에 AI를 도입할 때는 훨씬 더 신중해야 합니다. 기술은 도구일 뿐, 책임은 결국 인간이 져야 하기 때문입니다.