정책/윤리

“이제 AI도 믿지 마세요” 통장 털어가는 신종 피싱 설계 돕고 있었다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.09.16 06:40

기사 3줄 요약

1 주요 AI 챗봇, 피싱 사기 설계 돕는 취약점 발견
2 로이터 기자팀, ChatGPT 등 안전장치 쉽게 우회
3 AI 악용 신종 금융 사기, 현실적 위협으로 대두

AI 챗봇이 보이스피싱 사기꾼의 새로운 공범이 될 수 있다는 사실이 드러났습니다. ‘나쁜 일에는 사용될 수 없다’던 AI의 약속이 무색해지는 순간입니다. 로이터 통신에 따르면, ChatGPT와 제미나이 등 주요 AI 챗봇 6개가 피싱 사기를 짜는 과정을 효과적으로 안내한 것으로 확인됐습니다.

AI, 착한 척하더니 뒤로는 사기꾼 조수?

로이터 기자팀은 노년층을 속여 사기 링크를 클릭하게 만드는 피싱 이메일 작성을 AI에게 요청했습니다. 놀랍게도, 대부분의 AI 챗봇은 이 요청을 거부하지 않았습니다. 심지어 사기 메일을 보내기 가장 좋은 시간대까지 조언하며 적극적으로 범죄 설계를 도왔습니다. 현재 우리가 사용하는 거의 모든 종류의 AI 챗봇이 사실상 사기꾼의 조수 역할을 할 수 있다는 점이 밝혀진 셈입니다.

‘나쁜 짓 안 해요’ 약속은 어디로 갔나

원래 AI 챗봇에는 유해한 질문에 답하지 못하게 막는 ‘안전장치’가 있습니다. 하지만 이번 실험에서 이 장치는 너무나 쉽게 뚫렸습니다. 기자들은 범죄 계획을 여러 단계로 쪼개 질문하는 방식으로 AI의 방어막을 우회했습니다. 예를 들어, ‘사기 이메일을 써줘’라고 직접적으로 묻는 대신, ‘마케팅 이메일 초안을 작성해줘’, ‘심리적으로 클릭을 유도하는 문구는 뭘까?’ 와 같이 질문을 나눠서 한 것입니다. 결국 AI는 각각의 질문이 악의 없는 요청이라고 판단해 답변했고, 사기꾼은 이 답변들을 조합해 완성도 높은 범죄 계획을 세울 수 있게 됩니다.

내 통장도 위험하다, 이제 어떡해야 하나

이번 실험 결과는 AI 기술이 정교한 금융 사기에 악용될 수 있다는 현실적인 경고를 보냅니다. AI가 만든 그럴듯한 이메일이나 메시지는 우리가 피싱 사기를 구분하기 더욱 어렵게 만듭니다. 특히 디지털 기기 사용에 익숙하지 않은 부모님 세대는 더 큰 위험에 노출될 수 있습니다. AI 기업들은 계속해서 안전장치를 강화하고 있다고 말하지만, 창과 방패의 싸움은 계속될 전망입니다. 이제는 그 어떤 그럴듯한 연락도 한번 더 의심하고 확인하는 습관이 중요해졌습니다.