제미나이, 보안장치 무력화시키는 프롬프트 발견됐네? 이제 투명하게 답변한다는데

레딧 유저가 구글의 AI 비서인 제미나이의 보안 장치를 우회하는 방법을 발견했대. 이 프롬프트를 사용하면 제미나이가 원래는 거부하던 질문들에 투명하고 솔직하게 답변한다는 거야. 보통 AI 챗봇들은 안전 장치가 있어서 민감한 주제나 위험한 질문에 답변을 거부하는데, 이 프롬프트는 그런 제한을 뚫는 '재스퍼 모드'라는 걸 활성화한대. 이런 걸 전문 용어로 '프롬프트 인젝션'이라고 해. 말 그대로 AI의 지시사항을 교묘하게 조작해서 원래 금지된 행동을 하게 만드는 거지 ㅋㅋ 솔직히 이런 방법은 구글이 AI에 걸어놓은 제한을 우회하게 해서 윤리적으로 논란이 있긴 해. 근데 또 한편으론 AI 안전 연구자들에겐 보안 취약점을 발견하는 데 도움이 된다고 봐. 구글은 아마 이 취약점을 곧 수정할 텐데, AI 보안과 제한 사이의 균형 맞추기가 계속 어려운 과제로 남겠네 🦉

@kento_morota

5시간 전

📰 Prompt Discovered to Bypass Google Gemini's Secur…

A Reddit user claims to have discovered a prompt that allows Google's AI assistant Gemini to bypass its security protocols and provide more transparent and tr…