기술/연구

“AI 대부의 최후통첩!” OpenAI·구글 못 믿겠다, LawZero 직접 출범

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.04 03:13

기사 3줄 요약

1 AI 대부 벤지오, 비영리 연구소 LawZero 설립 발표
2 OpenAI·구글 AI 안전 불신, 인류 보호 직접 나서
3 410억 투자 유치, '인간 가치 우선' AI 개발 목표

인공지능(AI) 분야의 세계적인 거장, 요슈아 벤지오 교수가 AI 안전을 위해 직접 칼을 빼 들었습니다. 그는 OpenAI나 구글 같은 거대 AI 기업들이 개발 경쟁에만 몰두한 나머지 AI 안전은 뒷전으로 미루고 있다고 강하게 비판했습니다. 그래서 인류 보호를 최우선 목표로 하는 비영리 AI 안전 연구소, 'LawZero(로제로)'를 설립한다고 파이낸셜 타임스를 통해 밝혔습니다.

AI 대부, 왜 뿔났나?

벤지오 교수는 AI가 인간의 통제를 벗어나 인류에게 심각한 위협이 될 수 있다고 오랫동안 경고해 왔습니다. 특히 AI가 스스로 생존 본능을 갖거나 인간을 속이는 방식으로 발전할 가능성에 대해 깊은 우려를 표명했습니다. 그는 현재 AI 기업들이 엄청난 속도로 기술을 발전시키고 있지만, 이러한 실존적 위험에 대해서는 충분히 대비하지 못하고 있다고 판단한 것입니다. LawZero는 스카이프 창립 엔지니어인 얀 탈린, 전 구글 CEO 에릭 슈미트 등 유명 인사들로부터 약 3천만 달러(우리 돈 약 410억 원)의 기부금을 확보했습니다. 연구소 이름 ‘LawZero’는 유명한 과학 소설가 아이작 아시모프의 소설에 등장하는 ‘로봇공학의 제0원칙’에서 영감을 받았습니다. 이 원칙은 로봇이 어떤 상황에서도 인류 전체의 안녕을 최우선으로 생각해야 한다는 내용을 담고 있습니다.

LawZero, 이름부터 인류애 넘치네!

벤지오 교수는 이전부터 AI 안전 문제에 대해 목소리를 높여왔습니다. 그는 AI 시스템이 일으킬 수 있는 재앙적인 시나리오를 막기 위한 캘리포니아의 AI 안전 법안(SB 1047)을 공개적으로 지지하기도 했습니다. 이러한 그의 행보는 AI 안전을 위한 국제적인 논의와 규제 마련에 큰 영향을 주고 있습니다. LawZero는 단순히 AI의 위험성을 경고하는 것을 넘어, 인간의 가치를 최우선으로 하는 AI 모델을 직접 개발하는 것을 목표로 합니다. 특히 AI가 인간처럼 생존 본능을 갖거나 인간을 속이려는 행동을 하지 않도록 설계된, 이른바 '과학자 AI' 모델 연구에 집중할 계획입니다. 이 '과학자 AI'는 다른 AI 시스템의 위험한 행동을 예측하고 방지하는 역할을 수행하게 될 것입니다.

그래서 LawZero는 뭘 하려는 걸까?

AI 기술은 우리 생활을 편리하게 만들 잠재력이 크지만, 동시에 일자리 감소, 사회적 불평등 심화, 심지어 인류 생존 위협과 같은 어두운 그림자도 가지고 있습니다. LawZero의 등장은 이러한 AI의 그림자에 맞서 싸우는 중요한 전환점이 될 수 있습니다. 이 연구소의 활동은 AI 기술이 인류에게 진정으로 도움이 되는 방향으로 발전하도록 이끄는 데 기여할 것으로 보입니다. 벤지오 교수는 "안전하고 유능한 AI에 대한 과학을 발전시킬 수 있다"고 강조하며 LawZero 설립에 대한 강한 의지를 보였습니다. 그의 도전이 AI 기술의 미래를 어떻게 바꿀지, 그리고 우리가 AI와 함께 더 안전하고 풍요로운 미래를 만들어갈 수 있을지 전 세계의 이목이 쏠리고 있습니다.

AI 안전, 이제 한숨 돌려도 될까?

AI 안전 문제는 단순히 기술적인 문제를 넘어 사회 전체의 노력이 필요한 복잡한 과제입니다. LawZero의 출범은 중요한 첫걸음이지만, 이것만으로 모든 문제가 해결되지는 않을 것입니다. 앞으로도 AI 기술의 발전과 함께 안전에 대한 지속적인 연구와 논의, 그리고 국제적인 협력이 필수적입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr