정책/윤리

“AI 괴물 폭주 막는다” 캘리포니아 새 규제안, 뭐가 다를까?

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.18 09:32

기사 3줄 요약

1 캘리포니아, 새 AI 규제안 보고서 공개
2 기업 자율 아닌 제3자 외부 감시 강화
3 AI 위험성 사전 평가 및 피해자 보호 강조

인공지능(AI) 기술이 우리 삶을 빠르게 바꾸고 있지만, 그만큼 위험에 대한 걱정도 커지고 있습니다. 미국 캘리포니아 주정부가 최근 AI 기술에 대한 새로운 규제안 밑그림을 담은 ‘캘리포니아 최첨단 정책 보고서’를 공개했습니다. 지난해 강력한 AI 규제 법안이 무산된 뒤 나온 새로운 대안이라 더욱 주목받고 있습니다. 스탠퍼드 대학교의 페이페이 리 교수 같은 세계적인 AI 전문가들이 참여해 만든 이 보고서는 앞으로 AI 시대를 어떻게 준비해야 할지 중요한 방향을 제시합니다.

그래서, AI 규제 다시 한다고?

캘리포니아는 이전에도 ‘SB 1047’이라는 AI 규제 법안을 추진한 적이 있습니다. 하지만 기업 활동을 너무 위축시킬 수 있다는 우려 때문에 주지사가 거부권을 행사하며 없던 일이 됐습니다. 이번에 나온 보고서는 그때의 경험을 바탕으로 좀 더 현실적인 규제 방안을 고민한 결과물입니다. 단순히 AI 모델 개발에 들어간 컴퓨터 성능(연산량)만으로 위험성을 따지는 건 한계가 있다고 봤습니다. 대신 AI 모델을 만들기 전 위험성을 평가하고, 실제 사용될 때 어떤 영향을 미치는지 꼼꼼히 따져봐야 한다고 강조합니다.

기업 말만 믿을 순 없다는 거네?

보고서는 현재 AI 기업들이 스스로 안전성을 검증하는 방식에 문제가 있다고 지적합니다. 기업들이 알아서 잘할 거라는 기대와 달리, 데이터 확보나 보안, 사회적 영향 분석 같은 중요한 과정들이 투명하게 공개되지 않고 있다는 것입니다. 그래서 전문가들은 기업 외부의 독립적인 전문가들이 AI 모델의 안전성을 평가하는 ‘제3자 평가’ 제도를 도입해야 한다고 제안했습니다. 마치 사이버 보안 전문가들이 해킹을 시도하며 시스템의 허점을 찾는 것처럼, 다양한 분야의 전문가 수천 명이 참여해 AI의 숨겨진 위험을 찾아내자는 아이디어입니다.

그럼 앞으로 어떻게 하겠다는 건데?

새로운 규제안에는 제3자 평가자들이 안심하고 활동할 수 있도록 법적으로 보호하는 ‘세이프 하버’ 조항 마련도 포함됐습니다. 또한 AI로 인해 피해를 본 사람들이 쉽게 신고할 수 있는 창구 마련도 중요한 내용으로 다뤄졌습니다. 특히 보고서는 AI 기술이 화학무기나 생화학무기처럼 위험한 분야에 잘못 사용될 가능성을 심각하게 경고했습니다. 캘리포니아가 이번 규제안을 성공적으로 이끌어 AI 기술 발전과 안전이라는 두 마리 토끼를 잡을 수 있을지, 전 세계의 관심이 쏠리고 있습니다. (사진 출처: 위키 커먼스 / 지난 2023년 취임식 선서를 하는 개빈 뉴섬 캘리포니아 주지사)

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr