정책/윤리

"AI 기업들 이제 꼼짝 마!" 미국 캘리포니아, AI 안전법 최초 통과

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.02 03:46

기사 3줄 요약

1 캘리포니아, 미국 최초 AI 안전 투명성 법안 통과
2 OpenAI 등 빅테크, AI 안전 계획 및 사고 보고 의무화
3 혁신 저해 논란 속 앤트로픽은 지지, 향후 파장 주목

미국 캘리포니아주가 AI 산업의 역사를 새로 썼습니다. 미국 최초로 거대 AI 기업들에게 안전 조치에 대한 투명성을 요구하는 법안(SB 53)을 통과시킨 것입니다. 이 법에 따라 OpenAI, 앤트로픽 같은 빅테크 기업들은 이제 자신들의 AI 안전 규칙을 공개하고, 이를 반드시 지켜야만 합니다.

그래서 뭐가 달라지는데?

가장 큰 변화는 '투명성' 의무입니다. 기업들은 AI 모델의 위험을 어떻게 관리하고 있는지 상세한 안전 계획을 제출해야 합니다. 만약 AI로 인해 심각한 사고가 발생하면, 이 사실을 즉시 주 정부에 보고해야 합니다. 또한, 회사 내부에서 AI의 위험성을 경고하는 목소리를 내는 '내부 고발자'를 보호하는 조항도 포함됐습니다. 직원들이 불이익 걱정 없이 자유롭게 문제를 제기할 수 있는 환경을 만들겠다는 취지입니다.

더 빡센 법은 왜 실패했지?

사실 이번 법안 이전에도 더 강력한 규제 법안(SB 1047)이 있었습니다. 하지만 이 법안은 AI 개발 비용이 1억 달러만 넘어도 과도한 안전 테스트를 요구하고, 실패 시 엄청난 벌금을 물리는 등 너무 엄격했습니다. 이 때문에 스타트업의 혁신을 막는다는 비판을 받으며 결국 실패했습니다. 반면 이번에 통과된 SB 53은 연 수익 5억 달러 이상의 대기업에 초점을 맞추고, 생화학 무기 개발과 같은 '재앙적 위험' 방지에 집중해 현실적인 대안이라는 평가를 받았습니다.

근데 이거 진짜 효과 있을까?

물론 한계도 지적됩니다. OpenAI나 구글 등은 규제가 혁신을 저해할 수 있다며 반대 입장을 보였습니다. 반면, 챗GPT의 라이벌로 꼽히는 클로드를 개발한 앤트로픽은 이 법안을 공개적으로 지지하며 엇갈린 반응을 보였습니다. 이 법이 대기업에만 적용되어 작은 회사나 오픈소스 AI는 규제 사각지대에 놓일 수 있다는 우려도 나옵니다. 하지만 캘리포니아의 이번 결정이 다른 주, 나아가 전 세계 AI 규제 논의에 큰 영향을 미칠 것은 분명해 보입니다.