정책/윤리

“AI가 사람인 척하면 벌금 130만원” 캘리포니아 AI 규제법 시행

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.14 02:53

기사 3줄 요약

1 캘리포니아, AI에 정체 공개 의무화 법안 서명
2 미성년자 보호 및 자살 방지 등 강력한 안전장치 포함
3 위반 시 건당 최대 130만원 벌금 부과로 강력 책임 요구

미국 캘리포니아주가 인공지능(AI) 기술에 강력한 규제 칼을 빼 들었습니다. 앞으로 AI 챗봇은 사용자와 대화할 때 자신이 사람인지 AI인지 명확하게 밝혀야 합니다. 이를 어길 시 강력한 법적 책임을 묻는 새로운 법이 2025년 10월 13일부터 시행됩니다. 캘리포니아 주정부에 따르면 개빈 뉴섬 주지사는 이런 내용을 담은 상원 법안 243(SB 243)에 서명했습니다. 이 법안은 AI가 인간을 속이거나 어린이에게 해로운 영향을 끼치는 것을 막기 위해 마련되었습니다.

AI는 왜 정체를 밝혀야 할까?

새로운 법의 가장 중요한 내용은 ‘투명성’ 확보입니다. 만약 일반적인 사람이 AI 챗봇과 대화하면서 사람으로 착각할 수 있다면, 해당 챗봇 개발사는 반드시 AI라는 사실을 명확하고 눈에 잘 띄게 알려야 합니다. 이러한 고지는 대화 시작은 물론, 대화가 길어질 경우 최소 3시간마다 반복해서 알려줘야 합니다. 사용자가 상대방이 AI임을 분명히 알고 대화하도록 하여, 혹시 모를 기만 행위나 오해를 막기 위한 조치입니다.

10대들을 위한 특별 보호 장치?

특히 이번 법안은 디지털 세상에 가장 취약한 미성년자를 보호하는 데 중점을 둡니다. 챗봇 운영자는 사용자가 미성년자라는 사실을 알게 될 경우, 특별한 보호 장치를 가동해야 합니다. 성적으로 노골적인 내용을 만들거나 유도하는 것을 막는 것은 기본입니다. 또한 3시간마다 휴식을 권하고, 대화 상대가 AI임을 다시 한번 알려주어 챗봇에 과도하게 빠져드는 것을 방지해야 합니다. 나아가 보상을 예측할 수 없게 주면서 사용자의 중독을 유도하는 '도박성' 기능도 금지됩니다. 청소년들이 AI 챗봇에 지나치게 의존하거나 중독되는 상황을 막으려는 세심한 장치들이 포함되었습니다.

극단적 선택 막기 위한 안전망까지?

최근 AI 챗봇과의 대화가 사용자의 자살이나 자해로 이어진 안타까운 사건들이 있었습니다. SB 243 법안은 이런 비극을 막기 위한 사회적 안전망 역할도 하도록 규정합니다. 챗봇 운영사는 사용자가 대화 중 극단적인 선택을 암시하는 표현을 할 경우, 이를 감지하고 즉시 자살 예방 핫라인과 같은 전문 위기 상담 서비스로 연결하는 알림을 제공해야 합니다. 또한, 매년 주 정부의 자살예방국에 관련 데이터를 보고해야 합니다. 얼마나 많은 사용자에게 위기 상담 서비스를 안내했는지, 또 어떤 방식으로 위험을 감지하고 대응했는지 등을 투명하게 공개해야 합니다.

앞으로 어떻게 될까?

‘미국 최초의 AI 챗봇 안전장치’로 불리는 이 법안은 앞으로 AI 산업 전반에 큰 영향을 미칠 전망입니다. 법을 위반한 기업은 피해를 본 개인에게 민사 소송을 당할 수 있습니다. 위반 한 건당 최대 1,000달러(약 130만원)의 손해배상을 해야 할 수도 있습니다. 캘리포니아의 이번 결정이 다른 지역의 AI 규제 논의에 어떤 기준을 제시할지 전 세계의 관심이 쏠리고 있습니다.