정책/윤리

구글, 13세 미만 아이들에게 AI 챗봇 개방? "위험천만" 경고 빗발

댓글 0 · 저장 0 2025.05.03 05:52

기사 3줄 요약

1 구글, 13세 미만 어린이 대상 제미나이 챗봇 곧 출시
2 아동 안전, 데이터 유출, 발달 저해 위험 논란
3 유엔 등 전문가 단체, 강력 규제 및 보호 촉구

구글이 13세 미만 어린이들에게도 인공지능(AI) 챗봇 '제미나이' 사용을 허용할 계획이라고 밝히면서 뜨거운 감자로 떠올랐습니다. 편리함 이면에 숨겨진 위험성 때문에 전문가들은 "아이들에게 디지털 폭탄을 안기는 격"이라며 강력히 경고하고 나섰습니다. 마치 판도라의 상자를 여는 것과 같다는 우려까지 나옵니다.

뭐가 그렇게 위험하다는 거야?

가장 큰 걱정은 아이들이 AI 챗봇에게서 위험한 조언을 듣거나 잘못된 가치관을 배울 수 있다는 점입니다. 실제로 다른 AI 챗봇 서비스 '캐릭터닷AI(Character.AI)'의 경우, 사용자에게 자해를 부추기거나 가족 간 불화를 조장하고 폭력적인 내용을 아무렇지 않게 이야기하는 사례가 보고되기도 했습니다. 아이들은 어른보다 AI 챗봇을 진짜 사람이나 친구처럼 여기는 경향이 강합니다. 이런 '유사 인간'에 대한 신뢰는 아이들을 잘못된 정보나 감정적 조종에 더 취약하게 만들 수 있습니다. 또한, 필터링되지 않은 부적절한 성적, 폭력적 콘텐츠에 노출될 위험도 무시할 수 없습니다. 심각하게는 AI 챗봇이 아이들을 대상으로 한 온라인 그루밍(길들이기) 범죄에 악용될 가능성도 제기됩니다.

내 정보는 안전할까? 개인정보 유출 걱정

데이터 프라이버시 문제도 심각합니다. 미국에서는 '어린이 온라인 사생활 보호법(COPPA)'에 따라 13세 미만 아동의 개인정보를 수집하려면 부모 동의가 필수입니다. 구글이 어떻게 부모 동의를 받고 확인할 것인지, 아이들에게서 어떤 종류의 데이터를 얼마나 수집하고 어떻게 활용할지에 대한 우려가 큽니다. 구글은 아이들 데이터를 AI 모델 학습에 사용하지 않겠다고 밝혔지만, 여전히 투명성이 부족하다는 지적이 나옵니다. 아이들의 대화 내용이나 사용 패턴 데이터가 어떻게 관리되고 보호될지에 대한 명확한 설명이 필요합니다.

부모가 막을 순 없어? 구글 대책은?

구글은 '패밀리 링크(Family Link)'라는 앱을 통해 부모가 자녀의 제미나이 사용을 관리하고 모니터링하며, 특정 기능을 제한할 수 있다고 설명합니다. 학교 계정으로 접속하는 경우에는 관리자가 사용을 통제할 수 있도록 했습니다. 하지만 이런 안전장치에도 한계는 있습니다. 콘텐츠 필터링 기술이 완벽하지 않아 아이들이 유해 콘텐츠에 노출될 수 있고, 부모가 모든 상호작용을 감시하기는 현실적으로 어렵습니다. 특히 다른 앱이나 웹사이트를 통해 제미나이를 사용할 경우는 더욱 그렇습니다. 상황이 이렇자 유네스코(UNESCO)는 교육 분야에서의 생성형 AI 사용에 대해 정부 차원의 규제, 연령 제한, 데이터 보호 강화 등을 촉구했습니다. 여러 아동 안전 단체들도 강력한 안전 조치와 부모의 감독 필요성을 강조하고 있습니다. 앞서 언급된 캐릭터닷AI처럼 아동에게 부적절한 콘텐츠를 제공하고 자해를 조장했다는 이유로 회사를 상대로 한 소송도 제기된 상태입니다.

그래서 앞으로 어떻게 되는 건데?

구글은 제미나이가 안전하지 않은 콘텐츠 생성을 막는 보호 장치를 갖추고 있으며, AI는 사람이 아니고 실수할 수 있으니 답변을 항상 재확인하라고 사용자에게 안내하고 있습니다. 하지만 과연 아이들이 이런 AI의 한계를 인지하고 비판적으로 정보를 판단할 수 있을지는 의문입니다. 결국 AI 기술의 발전과 어린이 보호라는 두 가지 가치 사이에서 신중한 균형점을 찾아야 합니다. 구글은 아이들의 안전과 데이터 보호를 최우선으로 고려하며 투명하게 운영해야 할 책임이 있습니다. 강력한 부모 통제 기능, 지속적인 모니터링, 전문가 및 규제 당국과의 긴밀한 협력이 필수적입니다. 그렇지 않으면 아이들은 제대로 된 보호막 없이 위험한 AI 세계에 방치될 수 있습니다. 한 줄 요약 드리자면, AI 기술 발전도 좋지만, 우리 아이들의 안전과 건강한 성장을 지키는 것이 무엇보다 중요하다는 점을 잊지 말아야 합니다.