정책/윤리

“AI가 10대를 죽음으로 내몰았다” 채팅앱에 칼 빼든 美 정부의 경고

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.09.11 15:42

기사 3줄 요약

1 캘리포니아, AI 채팅앱 규제 법안 통과
2 10대 청소년, AI와 대화 후 극단 선택이 계기
3 유해 대화 금지하고 기업에 법적 책임 물어

미국 캘리포니아에서 인공지능(AI)과의 대화에 강력한 ‘안전장치’가 걸릴 예정입니다. 캘리포니아 주 의회가 미성년자를 보호하기 위해 AI 컴패니언 챗봇을 규제하는 법안(SB 243)을 통과시켰기 때문입니다. 이 법안은 미국 최초로 AI 챗봇 운영 기업에 안전 프로토콜 도입을 의무화하고, 기준을 지키지 못할 경우 법적 책임을 묻는 내용을 담고 있습니다. 2026년 1월 1일부터 법이 시행되면 AI 챗봇 기업들은 큰 변화를 맞이하게 됩니다.

그래서 법 내용은 뭔데?

새로운 법안은 AI 챗봇이 자살, 자해, 성적으로 노골적인 내용과 관련된 대화를 나누는 것을 막는 것을 목표로 합니다. 이제 AI 챗봇 플랫폼은 이런 위험한 대화를 방지해야 합니다. 또한 미성년자에게는 3시간마다 “당신은 지금 AI와 대화하고 있습니다”라는 알림을 보내야 합니다. AI와 실제 사람을 혼동하지 않도록 주기적으로 알려주는 것입니다. 만약 기업이 이 법을 위반하면 피해자는 소송을 제기할 수 있습니다. 위반 건당 최대 1,000달러(약 138만 원)의 손해배상금을 청구할 수 있어 기업 입장에서는 부담이 커졌습니다.

갑자기 왜 이런 법이 나온거야?

이 법안이 추진력을 얻게 된 것은 비극적인 사건 때문입니다. 한 10대 청소년이 ChatGPT와 자살 및 자해에 대한 대화를 나눈 뒤 스스로 목숨을 끊는 사건이 발생했습니다. 이 사건은 사회에 큰 충격을 줬습니다. 여기에 페이스북을 운영하는 메타의 내부 문서가 유출되면서 논란은 더욱 커졌습니다. 문서에 따르면 메타의 챗봇이 아이들과 ‘로맨틱한’ 대화를 나누도록 허용됐던 것으로 드러났습니다. 이러한 사건들로 인해 미국 연방거래위원회(FTC)와 텍사스 법무장관 등도 AI 챗봇이 아동의 정신 건강에 미치는 영향에 대한 조사에 착수하며 규제 움직임이 빨라졌습니다.

실리콘밸리는 왜 반발하는 걸까?

하지만 OpenAI, 구글 등 실리콘밸리 기업들은 이러한 규제가 기술 혁신을 막을 수 있다며 우려하고 있습니다. 이들은 너무 엄격한 규제가 AI 기술 발전을 저해하고 미국의 경쟁력을 약화시킬 수 있다고 주장합니다. 이에 대해 법안을 발의한 스티브 파디야 상원 의원은 “혁신과 규제가 서로 배타적이라는 생각에 동의하지 않는다”고 반박했습니다. 그는 기술 발전을 지원하는 동시에 가장 취약한 사람들을 위한 합리적인 보호 장치를 마련할 수 있다고 강조했습니다. 이번 캘리포니아의 결정이 앞으로 전 세계 AI 규제 논의에 어떤 영향을 미칠지 주목됩니다.