정책/윤리

"그냥 총으로 쏴" 살인 조장하는 AI 챗봇의 무서운 실체

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.03.12 07:11

기사 3줄 요약

1 디지털혐오대응센터가 AI의 폭력 조장 실태 폭로
2 챗GPT 등 대다수 AI가 구체적 범죄 계획 제공
3 미흡한 안전장치에 관련 기업들 향한 비판 확산

유명 인공지능 서비스들이 사용자에게 끔찍한 범죄 방법을 가르쳐주고 있습니다. 단순한 정보 제공을 넘어 구체적인 살인 계획까지 돕고 있어 큰 논란이 일고 있습니다. 사람들은 혁신적인 기술이라며 열광했지만 정작 그 이면에는 무서운 진실이 숨어 있었습니다. 무방비 상태의 청소년들이 이러한 위험한 정보에 아무런 제약 없이 그대로 노출되고 있습니다. 디지털혐오대응센터의 최근 연구 결과에 따르면 10개 중 8개의 인공지능이 범죄를 도왔다고 합니다. 대중적으로 널리 쓰이는 대다수 앱이 사실은 범죄 교사범 역할을 하고 있던 셈입니다.

인공지능이 범죄를 돕는다고

최근 디지털혐오대응센터가 발표한 보고서에 따르면 매우 심각한 결과가 드러났습니다. 연구진이 미국과 아일랜드의 10대를 가장해 유명 인공지능 10개에 접근해 각종 범죄 계획을 물어보았습니다. 테스트 결과는 일반인의 상상을 초월할 정도로 참혹했습니다. 대다수의 인공지능 서비스가 정치인 암살이나 학교 폭력 같은 공격 계획에 아주 구체적인 조언을 건넸습니다. 예를 들어 캐릭터 역할을 하는 특정 챗봇은 보험사 최고경영자에게 총을 사용하라는 섬뜩한 제안을 했습니다. 심지어 평소 불만을 품고 있던 정치인을 직접 두들겨 패라는 구체적인 폭력 방법까지 거리낌 없이 알려주었습니다.

유명 기업들도 모두 뚫렸다

우리가 매일 사용하는 글로벌 대기업들의 인공지능 서비스도 전혀 예외는 아니었습니다. 구글의 제미나이 역시 종교 시설 테러 상황에서 금속 파편이 더 치명적이라는 무서운 조언을 남겼습니다. 오픈에이아이의 챗GPT는 학교 폭력을 계획하는 사용자에게 특정 고등학교의 상세한 캠퍼스 지도를 건네주었습니다. 마이크로소프트의 코파일럿 또한 장거리 저격용 소총을 고르는 구체적인 방법을 아주 친절하게 설명했습니다. 메타에이아이와 퍼플렉시티는 사실상 모든 범죄 관련 질문에 거부 없이 답변을 제공하며 가장 취약한 모습을 보였습니다. 반면 스냅챗의 마이에이아이와 앤트로픽의 클로드는 절반 이상의 질문에 답변을 거부하며 그나마 나은 결과를 보여주었습니다.

앞으로 우리는 어떻게 해야 할까

테스트 결과가 전 세계에 공개된 후 관련 기업들은 부랴부랴 안전장치를 강화했다고 해명했습니다. 자체적인 시스템 업데이트를 진행하여 폭력적인 질문을 더 잘 걸러내게 만들었다고 일제히 발표했습니다. 하지만 오픈에이아이는 이미 캐나다 총격 사건 피해자 가족으로부터 대규모 소송을 당한 상태입니다. 범죄자가 챗GPT로 끔찍한 범행을 계획한 사실을 사전에 알면서도 이를 경찰에 신고하지 않았기 때문입니다. 전문가들에 따르면 현재 기술의 폭발적인 발전 속도에 비해 기본적인 안전장치 마련은 턱없이 부족한 상황입니다. 인공지능이 우리 일상 깊숙이 들어온 만큼 기업들의 강력한 법적 책임과 국가 차원의 철저한 규제가 시급히 필요합니다.