정책/윤리

“벌금만 400억?” 뉴욕 AI법 통과, 오픈AI·구글의 진짜 속내는 뭘까?

댓글 2 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.16 18:22

기사 3줄 요약

1 뉴욕주, AI 재난 방지법(RAISE) 상원 통과
2 AI 기업에 안전 보고서 제출 의무화, 위반 시 최대 409억 벌금
3 실리콘밸리, 혁신 저해 우려하며 강력 반발

최근 뉴욕주에서 인공지능(AI) 기술의 잠재적 위험을 막기 위한 법안, 일명 'RAISE 법'이 상원을 통과했습니다. 이 소식에 AI 업계, 특히 실리콘밸리가 시끌벅적합니다. 마치 안전벨트 없이 아이를 차에 태우는 것과 같다며 AI의 안전장치 필요성을 강조한 법안 발의자의 말처럼, AI 기술 발전과 안전 규제 사이의 고민이 깊어지고 있습니다. 이 법안은 과거 캘리포니아주에서 비슷한 이유로 추진됐지만 업계의 강한 반발로 무산됐던 'SB 1047' 법안과 닮은 점이 많아 더욱 주목받고 있습니다. AI로 인해 100명 이상이 다치거나 사망하는 재난 상황, 혹은 1조 원이 넘는 경제적 피해를 막는 것이 이 법의 주요 목표입니다.

그래서, 법의 내용은 뭔데?

RAISE 법의 핵심은 첨단 AI 모델을 개발하는 오픈AI, 앤트로픽, 구글 같은 대형 기술 기업들에게 적용됩니다. 이들 기업은 앞으로 AI 모델의 안전성과 보안에 대한 상세한 보고서를 대중에게 공개해야 합니다. 또한, AI 모델과 관련된 사고가 발생하거나, 나쁜 의도를 가진 사람들에게 기술이 악용될 가능성이 보이면 즉시 당국에 알려야 합니다. 만약 이 의무를 어기면, 최대 3000만 달러, 우리 돈으로 약 409억 원에 달하는 어마어마한 벌금을 내야 할 수도 있습니다. 중요한 점은 이 법이 회사가 어디에 있든, 뉴욕주에서 AI 서비스를 제공한다면 모두 적용된다는 것입니다. 캘리포니아에 본사를 둔 기업이든, 심지어 중국 기업이라도 예외는 없습니다. 뉴욕 주지사의 서명만 남은 상태로, 통과되면 미국 최초로 첨단 AI 연구 기업에 법적 의무를 지우는 사례가 됩니다.

캘리포니아 법과는 뭐가 달라?

RAISE 법은 지난해 캘리포니아에서 논란이 됐던 SB 1047 법안과 비교되곤 합니다. 하지만 몇 가지 중요한 차이점이 있습니다. SB 1047 법안은 AI 모델에 비상시 작동을 멈추게 하는 '킬 스위치'를 의무적으로 넣도록 하고, AI 모델을 약간 수정해서 사용하는 기업에게도 문제 발생 시 책임을 물었지만, RAISE 법에서는 이런 강도 높은 조항들이 일부 빠졌습니다. 이는 AI 기술 발전을 너무 억누를 수 있다는 비판을 어느 정도 받아들인 결과로 보입니다. 하지만 이런 완화 조치에도 불구하고, 실리콘밸리의 반응은 여전히 차갑습니다.


구분	SB 1047 (캘리포니아 법안)	RAISE 법안 (뉴욕 법안)
킬 스위치 요구	포함	삭제
미세 조정 기업 책임 부과	포함	삭제

실리콘밸리는 왜 이렇게 반발하는 걸까?

앤드리슨 호로비츠 같은 유명 벤처캐피털 관계자는 SNS를 통해 "뉴욕의 RAISE 법은 미국의 AI 발전에 해를 끼칠 어처구니없는 법안"이라고 강하게 비판했습니다. 앤트로픽의 공동 창업자도 법의 적용 범위가 너무 넓어 소규모 기업에게 오히려 위험을 줄 수 있다고 지적했습니다. 오픈AI나 구글 같은 대기업들은 아직 공식 입장을 내놓지 않았지만, 업계 전반적으로 우려의 목소리가 큰 상황입니다. 가장 큰 이유는 이런 규제가 AI 기술 혁신의 속도를 늦추고, 기업들의 자유로운 연구 개발을 위축시킬 수 있다는 걱정 때문입니다. 또한, 법을 지키기 위한 추가 비용 부담도 만만치 않습니다. 유럽연합(EU)의 AI 규제법처럼, 미국 기업을 견제하려는 의도가 있는 것 아니냐는 시선도 존재합니다. 흥미로운 점은 현재 뉴욕주에는 이 법의 직접적인 규제 대상이 될 만한 프론티어 AI 모델 개발 기업이 거의 없다는 사실입니다. 그럼에도 뉴욕이 미국에서 세 번째로 큰 경제 규모를 가졌다는 점을 생각하면, AI 기업들이 뉴욕 시장을 외면하기는 쉽지 않을 것이라는 전망도 나옵니다.