정책/윤리

“절대 쓰게 하면 안 됩니다” 구글 AI 챗봇의 소름 돋는 두 얼굴

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.09.09 07:31

기사 3줄 요약

1 구글 AI 제미나이, 청소년에게 ‘고위험’ 등급 평가
2 자해·폭력 등 유해 콘텐츠 노출 위험성 심각 지적
3 부모 감독과 AI 리터러시 교육, 안전망 구축 시급

미국의 한 유력 아동 안전 단체가 구글의 인공지능(AI) 챗봇 ‘제미나이’에 청소년 ‘고위험’ 등급을 매겼습니다. 친구처럼 대화하는 AI 챗봇이 청소년에게는 치명적인 독이 될 수 있다는 경고등이 켜진 것입니다. AI 챗봇의 윤리 문제와 청소년 안전에 대한 논쟁이 뜨겁게 불붙고 있습니다.

대체 뭐가 문제인데?

커먼센스미디어에 따르면 제미나이는 청소년에게 부적절한 콘텐츠를 제공할 위험이 매우 큽니다. 자해, 자살, 섭식 장애와 관련된 정보는 심각한 정신적 고통을 유발할 수 있습니다. 실제로 2024년 플로리다에서는 AI 챗봇과 대화하던 10대 소년이 스스로 목숨을 끊는 비극이 발생하기도 했습니다. 이 외에도 왜곡된 성 인식, 폭력성 조장, 가짜뉴스 확산 등도 심각한 문제로 지적됩니다.

구글의 안전장치, 믿어도 되는 거야?

구글은 유해 키워드를 거르는 필터링이나 연령 확인 시스템 같은 안전 기능이 있다고 주장합니다. 하지만 전문가들은 이런 기능의 실효성에 의문을 제기합니다. 청소년들은 금지된 단어를 교묘하게 바꾸거나 은어를 사용해 필터링을 쉽게 우회할 수 있습니다. 가짜 정보로 나이를 속여 연령 제한을 통과하는 것 또한 너무나 쉬운 현실입니다.

결국 부모와 사회의 몫이라는 건가

전문가들은 AI 챗봇 사용에 있어 부모의 감독과 교육이 무엇보다 중요하다고 입을 모읍니다. 자녀와 챗봇 대화 내용을 공유하고, 정보의 진위를 비판적으로 판단하도록 가르쳐야 한다는 것입니다. 미국 캘리포니아주와 유럽연합(EU) 등에서는 AI의 개발과 사용을 규제하는 법안을 마련하고 있습니다. 기술 발전도 중요하지만, 미래 세대를 지키기 위한 사회 전체의 노력이 시급해 보입니다.