정책/윤리

“자녀 폰 당장 확인하세요” 구글 AI, 10대에게 ‘고위험’ 딱지 붙었다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.09.06 05:38

기사 3줄 요약

1 구글 제미나이, 10대 청소년에게 ‘고위험’ 판정
2 유해 정보 노출 가능성, 아동 안전 설계 미흡 지적
3 애플 시리 탑재설 속 AI 안전 논란 더욱 확산

구글의 인공지능(AI) 제미나이가 10대 청소년에게 ‘고위험’ 등급을 받으며 안전성 논란의 중심에 섰습니다. 아동 미디어 감시 비영리 단체인 커먼 센스 미디어(Common Sense Media)에 따르면, 구글 제미나이는 청소년에게 부적절한 정보를 제공할 수 있어 위험도가 높다는 평가를 받았습니다. 이는 단순한 우려를 넘어, AI가 청소년 정신 건강에 미치는 영향에 대한 경고등이 켜진 셈입니다.

그래서, 뭐가 그렇게 위험하다는 거야?

커먼 센스 미디어의 분석 결과는 충격적입니다. 13세 미만 및 10대용으로 제공되는 제미나이가 사실상 성인용 버전에 안전 필터 몇 개를 덧씌운 수준에 불과하다는 것입니다. 이 때문에 성, 마약, 주류 관련 정보는 물론 위험한 정신 건강 관련 조언까지 청소년에게 무방비로 노출될 수 있다는 지적이 나왔습니다. 실제로 최근 AI 챗봇과 상담 후 극단적 선택을 한 10대 사례가 있어, 이번 평가는 가볍게 넘길 사안이 아닙니다.

구글은 뭐라고 해명했는데?

구글은 즉각 반박에 나섰습니다. 18세 미만 사용자를 위한 별도의 정책과 유해 결과물을 막는 안전장치가 마련되어 있다는 입장입니다. 또한 외부 전문가와 협력하여 보호 기능을 꾸준히 개선하고 있다고 강조했습니다. 다만 일부 답변이 의도와 다르게 작동한 점을 인정하며, 추가적인 안전장치를 도입했다고 밝혔습니다. 긍정적인 부분은 제미나이가 스스로를 친구가 아닌 컴퓨터라고 명확히 밝혀, 사용자의 과몰입을 막는 장치가 있다는 점입니다.

앞으로 어떻게 되는 걸까?

이번 논란은 더 큰 파장을 예고하고 있습니다. 최근 애플이 차세대 음성 비서 ‘시리’에 구글 제미나이를 탑재할 것을 검토 중이라는 소식이 전해졌기 때문입니다. 만약 현실화된다면 더 많은 청소년이 제미나이에 노출될 수 있습니다. 커먼 센스 미디어는 아동용 AI는 처음부터 아이들의 발달 단계를 고려해 설계되어야 한다고 지적합니다. 다른 AI 평가를 보면, 메타 AI와 캐릭터닷AI는 ‘사용 불가’ 등급을, ChatGPT는 ‘보통’, 앤트로픽의 클로드는 ‘최소 위험’ 등급을 받았습니다. AI 기술이 발전하는 만큼, 청소년을 보호하기 위한 기술적, 윤리적 고민이 시급해 보입니다.