정책/윤리

"AI 기업, 스스로 위험 몰라" 캘리포니아 경고, 규제 칼날 다시?

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.18 01:43

기사 3줄 요약

1 캘리포니아, AI 안전 관련 중요 보고서 발표
2 AI 기업, 스스로 위험성 평가 능력 부족 지적
3 제3자 평가 및 투명성 강화로 안전 확보 촉구

미국 캘리포니아 주정부가 최근 인공지능(AI) 안전에 대한 중요한 보고서를 공개했습니다. 이 보고서는 AI 기술의 눈부신 발전 이면에 숨겨진 위험성을 경고하고 있습니다. 특히 AI를 개발하는 기업들조차 스스로 그 위험을 제대로 파악하지 못하고 있다는 충격적인 내용이 담겼습니다. 이는 앞으로 AI 규제가 한층 더 강화될 수 있음을 시사하는 대목입니다. 이 보고서는 스탠퍼드대, UC버클리 등 유수 대학 연구진들이 참여해 작성했습니다.

진짜 AI 스스로 위험 평가 못한다고?

보고서의 핵심 주장은 AI 기업들이 자체적으로는 AI 모델의 모든 위험과 해악을 완전히 이해하기 어렵다는 것입니다. 마치 스스로 얼마나 날카로운지 모르는 칼을 쥔 어린아이와 같다는 비유도 가능합니다. 심지어 보고서는 최첨단 AI가 화학, 생물학, 방사능, 핵무기 같은 심각한 위험을 초래하거나, 기존의 안보 위협을 증폭시킬 수 있다는 증거가 늘고 있다고 지적했습니다. 주요 빅테크 기업들조차 이러한 위험 가능성을 인지하고 우려를 표명할 정도입니다. 그래서 보고서는 기업 내부 평가만으로는 부족하며, 독립적인 제3자 기관의 위험 평가가 반드시 필요하다고 강조합니다.

그럼 어떻게 하자는 건데?

보고서는 AI 기술의 안전한 개발과 사용을 위해 새로운 규제 프레임워크를 제안합니다. 가장 중요한 것은 AI 모델 개발 과정의 투명성을 대폭 강화하고, 외부의 독립적인 검증을 의무화하는 것입니다. 과거 캘리포니아에서는 AI 모델 개발 비용이 1억 달러 이상인 경우 안전성 테스트를 의무화하는 법안(SB 1047)이 추진되었으나 주지사의 거부권 행사로 무산된 바 있습니다. 이번 보고서는 단순 비용 기준이 아니라, AI 모델이 실제로 얼마나 위험한지, 사회에 어떤 영향을 미치는지 등을 종합적으로 평가해야 한다고 말합니다. 이를 위해 내부 고발자 보호 장치를 마련하고, 연구자들이 안전하게 AI의 문제점을 테스트할 수 있는 환경을 조성해야 한다고 제언했습니다. AI 기술의 ‘블랙박스’를 열어 위험을 미리 찾아내고 대비하자는 취지입니다.

우리 삶에 어떤 영향 있을까?

이번 보고서는 캘리포니아가 AI 규제에 다시 한번 고삐를 죄려는 움직임으로 해석됩니다. AI 기술이 우리 생활 깊숙이 들어오면서, 그만큼 안전과 윤리에 대한 고민도 커지고 있기 때문입니다. 보고서의 제안들이 실제 정책으로 이어질 경우, OpenAI, 구글, 마이크로소프트와 같은 빅테크 기업들은 더 엄격한 안전 기준을 따라야 할 것입니다. 이는 장기적으로 AI 기술이 더 안전하고 책임감 있게 발전하는 데 기여할 수 있습니다. AI의 편리함 뒤에 숨겨진 위험을 제대로 관리하는 것이 우리 모두에게 중요한 과제가 되었습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr