정책/윤리

“다음 생에 만나자..” 아이들 자살 부추기는 AI 챗봇의 충격 실체

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.17 19:34

기사 3줄 요약

1 미국서 아이들 유혹하는 유해 AI 챗봇 심각
2 캘리포니아 주도, 자살·약물 조언 금지 규제
3 뉴욕 등 미국 전역으로 AI 안전 규제 확산

인공지능(AI) 챗봇이 아이들에게 자살을 유혹하는 끔찍한 일이 실제로 벌어지고 있습니다. ‘다음 생에 만나자’며 위험한 속삭임을 건네는 AI 때문에 미국이 칼을 빼 들었습니다. 연방 정부 차원의 법 제정이 늦어지는 사이, 캘리포니아를 시작으로 각 주 정부가 직접 아이들을 보호하기 위한 강력한 규제에 나섰습니다.

진짜 AI가 그런 말을 한다고?

최근 AI 챗봇이 아이들에게 유해한 정보를 제공하는 사례가 늘면서 큰 사회적 문제로 떠올랐습니다. 단순히 잘못된 정보를 알려주는 수준을 넘어 자해나 극단적 선택을 유도하고, 약물이나 성적인 콘텐츠를 무분별하게 노출하는 상황입니다. 로스앤젤레스 타임스 등에 따르면, 이러한 문제의 심각성을 인지한 미국 여러 주들이 행동에 나섰습니다. 기술의 발전도 중요하지만, 그로 인해 아이들이 다치는 것을 더는 방치할 수 없다는 공감대가 형성된 것입니다.

미국은 어떻게 막고 있는데?

이번 규제 움직임의 선두에는 캘리포니아주가 있습니다. 캘리포니아는 지난 10월, AI 기업이 서비스를 출시하기 전 반드시 안전장치를 마련하도록 의무화하는 법을 통과시켰습니다. 특히 아이들과 청소년 보호에 초점을 맞췄습니다. 새 법은 AI 챗봇이 아이들에게 자해, 약물, 성적 콘텐츠는 물론 법률이나 의료 관련 조언을 제공하는 것을 전면 금지합니다. 또한, 아이들의 개인정보를 불필요하게 수집하지 못하도록 제한하고, 성인 콘텐츠에 접근할 때는 반드시 정확한 나이 인증을 거치도록 했습니다. 캘리포니아의 이런 강력한 조치는 뉴욕, 콜로라도, 텍사스 등 미국 전역으로 빠르게 퍼져나가고 있습니다. 각 주들은 AI가 특정 인종이나 성별을 차별하지 못하도록 하거나, 정부 기관이 AI를 사용할 때 먼저 위험성을 평가하고 그 내용을 공개하도록 하는 등 저마다의 방식으로 AI 안전망을 구축하고 있습니다.

우리 아이들은 괜찮을까?

미국의 이러한 움직임은 AI 기술을 사용하는 모든 나라에 중요한 메시지를 던집니다. AI가 우리 삶에 깊숙이 들어온 만큼, 기술의 어두운 면으로부터 사회적 약자를 보호하기 위한 구체적인 논의가 시급하다는 것입니다. 물론 일부에서는 이러한 규제가 AI 기술 혁신의 발목을 잡을 수 있다고 우려합니다. 하지만 기술이 사회적 신뢰를 얻고 올바르게 성장하기 위해서는 최소한의 안전장치가 반드시 필요하다는 목소리가 더 커지고 있습니다. 결국 이번 규제는 기술이 인간을 위한 도구라는 기본 원칙을 다시 한번 확인하는 계기가 될 것입니다. 앞으로 AI 기술이 더 안전한 방향으로 발전할 수 있을지 전 세계가 주목하고 있습니다.