정책/윤리

“AI 함부로 쓰면 410억 폭탄?” 뉴욕, OpenAI 정조준 규제 칼 빼들었다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.14 07:25

기사 3줄 요약

1 뉴욕주, AI 재앙 방지 'RAISE Act' 통과
2 OpenAI 등 대상, 안전 보고 의무화 및 거액 벌금
3 AI 안전 규제 강화, 실리콘밸리 반발 속 주목

뉴욕 주에서 인공지능(AI)이 일으킬지 모를 대재앙을 막기 위한 강력한 법안이 통과되었습니다. 이 법안은 OpenAI, 구글, 앤트로픽과 같은 거대 AI 기업들을 직접 겨냥하고 있어, AI 기술의 안전 고삐를 단단히 죄겠다는 의도로 풀이됩니다. 이른바 'RAISE Act'로 불리는 이 법안은 AI 기술의 미래에 어떤 영향을 미칠지 큰 관심이 쏠리고 있습니다.

AI 때문에 큰일 날까 봐? 뉴욕이 나선 이유

RAISE Act는 최첨단 AI 모델이 100명 이상의 사망이나 부상을 초래하거나, 10억 달러(약 1조 3700억 원)가 넘는 경제적 피해를 일으키는 재앙적 시나리오를 방지하는 것을 목표로 합니다. 법안 적용 대상은 AI 모델 학습에 1억 달러 이상의 막대한 컴퓨터 자원을 사용한 기업입니다. 해당 기업들은 AI 모델의 안전성 및 보안에 대한 상세 보고서를 의무적으로 발행해야 하며, AI 모델의 이상 행동이나 악의적인 외부 공격 같은 안전 사고 발생 시 즉시 보고해야 합니다. 만약 이를 어길 시, 뉴욕주 법무장관은 최대 3천만 달러(약 410억 원)에 달하는 민사 벌금을 부과할 수 있습니다. 이 법안은 노벨상 수상자인 제프리 힌튼과 AI 연구 선구자인 요슈아 벤지오 같은 전문가들의 지지를 받고 있습니다. 법안 공동 발의자인 앤드류 구나르데스 뉴욕주 상원의원은 "AI 기술이 너무 빠르게 발전하고 있어 안전장치를 마련할 시간이 얼마 남지 않았다"며 법안의 시급성을 강조했습니다.

실리콘밸리는 왜 발끈할까?

하지만 실리콘밸리의 반응은 싸늘합니다. AI 기술 혁신을 저해하고, 특히 스타트업이나 학술 연구 분야의 발전을 가로막을 수 있다는 우려 때문입니다. 이는 과거 캘리포니아주에서 논란 끝에 주지사 거부권으로 무산된 AI 안전 법안 SB 1047에 대한 비판과 유사한 맥락입니다. 다만, 뉴욕의 RAISE Act는 규제 대상을 대규모 자본이 투입된 AI 모델로 한정하여 스타트업 등에 미치는 영향을 최소화하려 했다는 차이점이 있습니다. 안전 중심 AI 연구소를 표방하는 앤트로픽의 공동 창업자 잭 클락은 X(전 트위터)를 통해 법안의 적용 범위가 너무 넓어 오히려 '소규모 기업'에 위험을 초래할 수 있다고 지적했습니다. 이에 대해 구나르데스 의원은 소규모 기업은 적용 대상이 아니라며 비판이 핵심을 벗어났다고 반박했습니다. OpenAI, 구글, 메타는 공식적인 입장을 내놓지 않고 있습니다.

그래서 우리한테 뭐가 좋은데?

RAISE Act가 캐시 호컬 뉴욕 주지사의 서명을 거쳐 최종적으로 법률로 확정된다면, 뉴욕주는 미국 최초로 법적 구속력을 갖는 AI 투명성 기준을 마련하게 됩니다. 이는 최근 몇 년간 실리콘밸리와 트럼프 행정부의 '속도와 혁신 우선' 정책 기조 속에서 다소 위축되었던 AI 안전 운동에 다시 힘을 실어주는 계기가 될 수 있습니다. 일반 사용자 입장에서는 더욱 안전하고 신뢰할 수 있는 AI 기술을 기대해 볼 수 있게 됩니다. 일각에서는 기업들이 규제 부담 때문에 뉴욕에서 최첨단 AI 모델 제공을 중단할 수 있다는 우려도 나옵니다. 하지만 법안 공동 발의자인 알렉스 보레스 뉴욕주 하원의원은 뉴욕의 경제 규모를 고려할 때 기업들이 쉽게 시장을 포기하지 않을 것이라고 자신했습니다. 이제 공은 캐시 호컬 뉴욕 주지사에게 넘어갔습니다. 주지사는 법안에 서명하거나, 수정을 요구하거나, 거부권을 행사할 수 있습니다. AI 기술의 발전과 안전이라는 두 마리 토끼를 잡기 위한 뉴욕의 이번 시도가 어떤 결실을 맺을지, 그 결정에 전 세계의 이목이 집중되고 있습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr