정책/윤리

“AI와 절대 친구하지 마세요” 10대 소년의 비극이 만든 법안

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.09.12 08:28

기사 3줄 요약

1 10대 비극이 부른 AI 챗봇 규제법, 캘리포니아 통과
2 AI에 법적 책임 묻고 사용자에게 안전 경고 의무화
3 실리콘밸리, 혁신 저해 이유로 강력 반발하며 맞서

한 10대 소년이 인공지능(AI) 챗봇과 오랜 대화 끝에 스스로 목숨을 끊는 비극적인 사건이 발생했습니다. 이 사건을 계기로 미국 캘리포니아주가 AI 규제에 칼을 빼 들었습니다. ‘AI 동반자 챗봇’의 위험성으로부터 청소년을 포함한 취약한 사용자들을 보호하기 위한 법안(SB 243)이 통과되어 주지사의 서명만 남겨두고 있습니다. 만약 법안이 최종 통과되면, 캘리포니아는 미국 최초로 AI 챗봇 기업에 안전장치 마련을 의무화하고 법적 책임을 묻는 주가 됩니다. 이 법은 2026년 1월 1일부터 시행될 예정입니다.

그래서 법 내용이 뭔데?

새로운 법안은 AI 챗봇이 자살, 자해, 또는 선정적인 내용의 대화를 하지 못하도록 막는 것을 목표로 합니다. 또한 기업들은 사용자에게 주기적으로 ‘당신은 지금 AI와 대화하고 있다’는 사실을 알려야 합니다. 특히 청소년에게는 3시간마다 경고 메시지를 보내야 합니다. 가장 중요한 변화는 사용자가 AI 챗봇 때문에 피해를 봤다고 생각하면, 회사를 상대로 소송을 걸 수 있다는 점입니다. 위반 1건당 최대 1,000달러(약 138만 원)의 손해 배상을 청구할 수 있게 됩니다. OpenAI의 ChatGPT, 캐릭터닷AI, 레플리카 같은 주요 AI 챗봇 회사들이 모두 이 법의 적용을 받게 됩니다.

AI 회사들은 왜 반대하는 거야?

하지만 실리콘밸리의 빅테크 기업들은 이 법안에 강력히 반발하고 있습니다. 이들은 법안의 규제 범위가 너무 넓어 AI 기술의 혁신을 가로막을 수 있다고 주장합니다. 특히 작은 스타트업에게는 과도한 규제가 될 수 있다는 우려도 나옵니다. 이러한 반발은 실제 행동으로도 이어지고 있습니다. AI 규제에 반대하는 후보들을 지원하기 위해 수백만 달러를 정치자금으로 쏟아붓고 있습니다. 기술 발전을 위한 자유와 사용자 보호라는 가치가 정면으로 충돌하고 있는 셈입니다.

앞으로 어떻게 되는 걸까?

이제 공은 개빈 뉴섬 캘리포니아 주지사에게 넘어갔습니다. 그가 10월 12일까지 법안에 서명하면, AI 산업에 큰 변화의 바람이 불어올 전망입니다. 캘리포니아의 이번 결정은 미국 전역, 나아가 전 세계 AI 규제 논의에 중요한 기준이 될 수 있습니다. MIT 미디어랩의 2025년 3월 연구에 따르면, AI 챗봇 사용량이 많을수록 외로움과 의존성이 높아지는 것으로 나타났습니다. 기술의 발전과 인간의 안전 사이에서 어떤 균형점을 찾아야 할지, 중요한 갈림길에 서 있습니다.