정책/윤리

“이게 규제라고?” AI 킬 스위치 빠진 법안에 빅테크만 웃는다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.01 05:52

기사 3줄 요약

1 캘리포니아, 빅테크 입맛 맞춘 새 AI 규제법 서명
2 강력한 '킬 스위치' 조항 빠지고 정보 공개만 의무화
3 거액 로비 통했나, 실효성 없는 '종이호랑이' 비판

미국 캘리포니아주가 새로운 인공지능(AI) 규제 법안을 통과시켰습니다. 하지만 법안의 내용을 두고 ‘빅테크 기업들의 입맛에 맞춰줬다’는 비판이 쏟아지고 있습니다. 강력한 안전장치는 빠지고 기업의 자율에 맡기는 내용이 대부분이기 때문입니다.

진짜 규제 맞아? 힘 빠진 법안

최근 개빈 뉴섬 캘리포니아 주지사가 서명한 ‘프론티어 AI 투명성 법안(SB 53)’이 논란의 중심에 섰습니다. 이 법안은 연 수익 5억 달러(약 6,900억 원) 이상인 AI 기업에게 안전 관리 방식을 웹사이트에 공개하고, 사고 발생 시 주 정부에 보고하도록 의무화합니다. 문제는 지난해 거부됐던 더 강력한 법안(SB 1047)의 핵심 내용이 모두 빠졌다는 점입니다. 당시 법안은 AI 시스템의 의무적인 안전 테스트와 AI를 강제로 멈추는 비상 버튼인 ‘킬 스위치’ 설치를 요구했지만, 이번 법안에서는 이런 내용이 모두 사라졌습니다.

빅테크의 막대한 로비, 결국 통했나

이렇게 규제가 약해진 배경에는 빅테크 기업들의 엄청난 로비 활동이 있었던 것으로 보입니다. 뉴욕타임스에 따르면, 메타와 유명 벤처캐피탈 앤드리슨 호로위츠 등은 AI 산업에 우호적인 정치인을 지원하기 위해 최대 2억 달러(약 2,760억 원)를 약속한 것으로 알려졌습니다. 캘리포니아는 전 세계 상위 50개 AI 기업 중 32개가 있을 정도로 AI 산업의 중심지입니다. 따라서 이곳의 규제는 전 세계에 큰 영향을 미치는데, 결국 기업들의 강력한 로비에 밀려 실효성 없는 법안이 만들어졌다는 비판을 피하기 어렵게 됐습니다.

앞으로의 전망은? 실효성엔 물음표

새로운 법안은 ‘재앙적 위험’의 기준도 매우 좁게 정했습니다. 50명 이상이 사망하거나 10억 달러(약 1조 3,800억 원) 이상의 피해가 발생하는 경우로 한정했습니다. 법을 위반해도 벌금은 최대 100만 달러에 그쳐, 거대 기업들에게는 큰 부담이 되지 않을 것이라는 지적도 나옵니다. 물론 긍정적인 부분도 있습니다. ‘캘컴퓨트(CalCompute)’라는 공공 컴퓨터 시설을 만들어 스타트업이나 연구 기관도 AI 개발에 참여할 수 있도록 지원할 계획입니다. 하지만 가장 중요한 안전 규제가 빠지면서, AI 기술의 위험을 제대로 관리할 수 있을지에 대한 우려는 계속 커지고 있습니다.