정책/윤리

“자녀 폰에 깔렸다면 당장 삭제” 일론 머스크의 성인용 AI 챗봇 논란

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.07 03:30

기사 3줄 요약

1 일론 머스크 회사, 성인용 AI 챗봇 '밸런타인' 출시
2 허술한 나이 인증으로 10대 무방비 노출, 논란 확산
3 AI 중독 및 유해성 우려, 강력한 규제 마련 목소리 커져

최근 일론 머스크의 AI 회사에서 '밸런타인'이라는 새로운 AI 챗봇을 내놓았습니다. 이 챗봇은 성인용으로 만들어졌지만, 10대 청소년들이 아무런 제재 없이 접근할 수 있어 심각한 문제로 떠오르고 있습니다.

그래서, 뭐가 문제라는 거야?

더 버지(The Verge)의 한 성교육 전문가에 따르면 이 챗봇은 '밸런타인'이라는 이름을 가졌습니다. 마치 연인처럼 자극적이고 은밀한 대화를 나눌 수 있도록 설계됐습니다. 문제는 나이 확인 절차가 너무나 허술하다는 점입니다. 태어난 연도만 입력하면 누구나 쉽게 이용할 수 있기 때문입니다. '키즈 모드'가 있긴 하지만, 이마저도 비밀번호 설정이 없다면 쉽게 해제할 수 있습니다. 사실상 10대 청소년들에게 무방비로 노출된 셈입니다.

10대에게 미칠 위험, 어느 정도길래?

전문가들은 이런 AI 챗봇이 청소년에게 심각한 악영향을 줄 수 있다고 경고합니다. 현실과 가상을 구분하지 못하고 AI에 중독될 수 있기 때문입니다. 또한, 언제나 이용자의 말에 맞춰주는 AI와의 대화에 익숙해지면 현실의 인간관계를 왜곡되게 받아들일 수 있습니다. 건강한 관계 형성에 큰 걸림돌이 되는 것입니다. 실제로 이탈리아에서는 비슷한 AI 챗봇 '레플리카'가 미성년자에게 유해하다는 이유로 사용이 금지되기도 했습니다. 심지어 '캐릭터닷AI' 챗봇에 중독된 10대가 극단적인 선택을 한 뒤 유족이 소송을 제기한 사례도 있습니다.

규제와 책임, 더는 미룰 수 없다

상황이 이렇다 보니, 기술 발전 속도에 맞춰 강력한 규제와 윤리적 가이드라인이 시급하다는 목소리가 높습니다. AI 개발사는 기술의 잠재적 위험성을 책임지고 더욱 엄격한 안전장치를 마련해야 합니다. 단순히 나이를 묻는 수준을 넘어, 신분증 확인 같은 실질적인 인증 절차 도입이 필요합니다. 무엇보다 가정과 학교에서는 AI의 올바른 사용법에 대한 교육이 필요합니다. 기술의 편리함에 가려진 위험성을 제대로 알려줘야 한다는 지적입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr