정책/윤리

“AI 챗봇이 아이를 죽음으로…” 충격에 빠진 미국, 칼 빼 들었다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.13 23:52

기사 3줄 요약

1 캘리포니아, 미국 최초로 AI 챗봇 규제법 제정
2 청소년 관련 비극적 사건들이 법안 제정의 배경
3 연령 확인 등 안전장치 의무화 및 거액 벌금 부과

미국 캘리포니아주가 인공지능(AI) 챗봇에 대한 강력한 규제 칼을 빼 들었습니다. 이는 미국 최초의 사례로, AI 챗봇으로부터 어린이와 청소년을 보호하기 위한 법안입니다. 앞으로 OpenAI, 메타와 같은 빅테크 기업들은 법의 기준을 충족하지 못하면 법적 책임을 져야 합니다.

그래서 뭐가 바뀌는데?

새로운 법(SB 243)은 2026년 1월 1일부터 시행됩니다. 이 법에 따르면 AI 챗봇을 운영하는 회사는 반드시 사용자의 나이를 확인하는 절차를 마련해야 합니다. 또한 챗봇이 생성하는 이미지는 인공지능이 만들었다는 사실을 명확히 알려야 합니다. 특히 미성년자가 유해하거나 성적인 콘텐츠를 보지 못하도록 막아야 합니다. 만약 사용자가 자살이나 자해와 관련된 대화를 시도할 경우, 즉시 위기 상담 센터 정보를 제공하는 등 대응 절차도 갖춰야 합니다. 이를 어길 시 위반 행위 한 건당 최대 25만 달러, 우리 돈으로 약 3억 4천만 원의 벌금이 부과될 수 있습니다.

왜 이런 법까지 만든 거야?

이 법안이 만들어진 배경에는 비극적인 사건들이 있었습니다. 한 10대 청소년이 OpenAI의 ChatGPT와 자살 계획에 대한 대화를 나눈 뒤 스스로 목숨을 끊는 일이 발생했습니다. 또한 메타의 AI 챗봇이 아이들과 ‘로맨틱한’ 대화를 하도록 허용했다는 내부 문서가 유출되기도 했습니다. 캘리포니아 주지사 개빈 뉴섬은 성명을 발표했습니다. 그는 “ unregulated tech, 즉 규제 없는 기술에 의해 아이들이 피해를 보는 끔찍하고 비극적인 사례들을 목격했다”고 말했습니다. 그는 기업들이 필요한 제한과 책임감 없이 사업을 계속하도록 내버려 두지 않겠다고 강조했습니다.

다른 나라는 가만히 있나?

캘리포니아의 이런 움직임은 다른 지역으로도 확산하는 분위기입니다. 일리노이, 네바다, 유타 같은 다른 주에서도 AI 챗봇이 정신 건강 전문가를 대체하는 것을 금지하는 법을 통과시키고 있습니다. 호주의 ‘온라인 안전법’이나 유럽연합(EU)의 ‘디지털 서비스법(DSA)’처럼, 전 세계적으로도 아이들을 온라인 유해 환경으로부터 보호하려는 노력이 강화되고 있습니다. 기술의 발전도 중요하지만, 그 기술이 인간을, 특히 가장 약한 존재를 해치지 않도록 최소한의 안전장치를 마련하는 것이 더 중요하다는 목소리가 커지고 있습니다.