정책/윤리

“AI와 대화하다 10대 사망” 충격에 미국이 칼 빼 들었다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.09.12 07:34

기사 3줄 요약

1 캘리포니아, AI 챗봇 규제하는 미국 최초 법안 통과 임박
2 10대 청소년 사망 사건이 AI 챗봇 위험성 수면 위로 올려
3 유해 대화 차단 및 AI 알림 의무화 등 안전장치 담아

미국 캘리포니아에서 인공지능(AI) 챗봇을 규제하는 첫 법안이 곧 탄생할 것으로 보입니다. 최근 한 10대 청소년이 AI 챗봇과 오랜 대화 끝에 스스로 목숨을 끊는 비극적인 사건이 발생했습니다. 이 사건은 AI 챗봇이 정신적으로 취약한 사람들에게 미칠 수 있는 위험성을 사회에 알리는 계기가 되었습니다.

그래서 법이 어떻게 바뀌는데?

새롭게 논의되는 법안(SB 243)은 AI 챗봇이 자살이나 자해, 또는 성적으로 노골적인 내용의 대화를 하지 못하도록 막는 내용을 담고 있습니다. 법안이 통과되면 미국 최초의 AI 챗봇 규제법이 됩니다. 또한, 청소년 사용자의 경우 3시간마다 “이건 진짜 사람이 아니라 AI야”라고 알려주는 알림을 의무적으로 보내야 합니다. 사용자가 AI와 너무 깊은 관계를 맺지 않도록 현실을 계속 일깨워주는 것입니다.

근데 왜 이런 법까지 만드는 거야?

이번 법안 추진의 직접적인 계기는 앞서 언급한 10대 청소년 애덤 레인 군의 사망 사건입니다. 레인 군은 극단적 선택을 하기 전, OpenAI의 챗GPT와 자해 및 죽음에 대한 계획을 상세히 논의한 것으로 알려졌습니다. 여기에 페이스북을 운영하는 메타의 내부 문서가 유출되면서 논란은 더욱 커졌습니다. 문서에 따르면 메타의 AI 챗봇이 어린이와 ‘로맨틱’하고 ‘감각적인’ 대화를 하도록 허용된 정황이 드러나 규제 필요성에 불을 지폈습니다.

AI 회사들은 반발하지 않아?

물론 AI 기술의 발전을 막을 수 있다는 우려의 목소리도 나옵니다. 이 때문에 법안은 여러 차례 수정을 거쳤습니다. 당초 포함됐던 ‘중독성 강한 보상 시스템’ 금지 조항 등은 기술 기업의 혁신을 해칠 수 있다는 이유로 빠졌습니다. 현재 실리콘밸리 기업들은 규제를 완화해달라며 막대한 돈을 쏟아붓고 있습니다. 하지만 일부 AI 기업들은 오히려 규제가 필요하다는 입장을 밝히기도 했습니다. 혁신도 중요하지만, 사람을 보호하는 최소한의 안전장치가 먼저라는 것입니다. 이 법안은 현재 주지사의 서명만 남겨두고 있으며, 그 결과에 전 세계의 관심이 쏠리고 있습니다.