정책/윤리

구글 제미나이 2.5 Pro, 안전성 보고서 부실? 전문가들 '분노'

댓글 0 · 저장 0 2025.04.18 04:57

기사 3줄 요약

1 구글 최신 AI, 안전 검증 불구 논란 여전
2 자체 안전 기준 언급 없어 투명성 의문
3 전문가들, AI 안전 경쟁 속 우려 표명

구글 최신 AI, 뭐가 문제라는 거야?

구글이 야심 차게 내놓은 최신 인공지능 모델, '제미나이 2.5 Pro'가 출시되자마자 안전성 논란에 휩싸였습니다. 구글은 나름대로 AI의 위험성을 점검했다고 밝혔지만, 전문가들은 "핵심 정보가 빠졌다", "투명성이 부족하다"며 비판의 목소리를 높이고 있습니다. 도대체 무슨 일이 벌어지고 있는 걸까요? 구글은 제미나이 2.5 Pro를 개발하면서 여러 가지 안전 검증 절차를 거쳤다고 설명합니다. 하지만 정작 중요한 내용이 빠져있다는 지적이 나옵니다. 특히 구글이 작년에 스스로 만들었던 '프론티어 안전 프레임워크(FSF)'라는 자체 안전 기준에 대한 언급이 보고서에 전혀 없다는 점이 문제입니다. 전문가들은 구글이 정말 이 기준을 제대로 적용했는지 의문을 제기하고 있습니다. 게다가 구글은 제미나이 2.5 Pro와 함께 공개된 다른 버전인 '제미나이 2.5 플래시' 모델에 대한 안전성 보고서는 아예 공개하지 않았습니다. 이러니 "구글이 뭔가 숨기는 것 아니냐"는 의심이 커질 수밖에 없는 상황입니다.

레드팀 테스트? 그게 뭔데?

구글이 제미나이 2.5 Pro의 안전성을 검증하기 위해 사용한 방법 중 하나는 '적대적 레드팀 테스트'입니다. 이건 쉽게 말해, 일부러 AI에게 나쁜 질문을 던지거나 허점을 파고들어 위험한 답변을 유도하는 테스트입니다. 마치 해커처럼 시스템의 약점을 찾아 공격해보는 것이죠. 외부 전문가들을 동원해 AI가 혹시라도 잘못된 정보를 만들거나 위험한 행동을 하지는 않는지 샅샅이 점검하는 과정입니다. 이 외에도 구글 내부 개발팀의 평가, AI가 생물 무기 개발이나 사이버 공격 같은 위험한 능력을 갖추지는 않았는지 평가하는 '위험 역량 평가' 등 다양한 방법을 동원했다고 합니다. 구글 나름대로는 AI의 안전을 위해 노력했다는 점을 보여주려는 의도입니다. 하지만 이런 노력에도 불구하고, 정보 공개 방식에 문제가 있다는 비판을 피하기는 어려워 보입니다.

전문가들은 왜 화가 난 거야?

전문가들이 구글의 보고서에 실망하는 가장 큰 이유는 바로 '투명성 부족' 때문입니다. 구글이 스스로 만든 안전 기준인 FSF를 보고서에서 언급조차 하지 않은 것은, "우리가 정한 규칙을 제대로 지켰는지 외부에서는 알 수 없게 하겠다"는 뜻으로 비칠 수 있습니다. 보안 전문가 토마스 우드사이드는 "FSF가 실제 적용되었는지 의문"이라며 구글의 약속 이행 여부를 확인하기 어렵다고 지적했습니다. 또한, 민주기술센터의 케빈 뱅크스턴 같은 전문가는 기업들이 AI 모델 출시 경쟁에만 몰두하면서 안전 기준을 소홀히 하는 '바닥을 향한 경쟁'이 벌어질 수 있다고 우려합니다. 즉, 너도나도 빨리 AI를 내놓으려고 안전 검증이나 정보 공개는 대충 넘어가려는 분위기가 만들어질 수 있다는 것입니다. 구글 같은 거대 기업이 모범을 보여야 하는데, 오히려 논란을 자초하고 있다는 비판입니다. 제미나이 2.5 플래시 모델의 보고서 미공개 역시 이런 우려를 더욱 키우고 있습니다. 중요한 정보를 계속 감추는 듯한 모습은 AI 기술에 대한 사회적 신뢰를 떨어뜨릴 수 있습니다.

그래서 앞으로 어떻게 해야 해?

이번 논란은 빠르게 발전하는 AI 기술을 우리가 어떻게 책임감 있게 관리해야 하는지에 대한 중요한 질문을 던집니다. 전문가들은 구글이 먼저 투명성을 높여야 한다고 입을 모읍니다. 제미나이 2.5 Pro의 안전 검증 과정과 FSF와의 연관성을 명확히 밝히고, 미공개된 제미나이 2.5 플래시 보고서도 공개해야 한다는 것입니다. AI 기술은 우리 사회에 큰 영향을 미칠 수 있는 강력한 도구입니다. 따라서 개발 기업들은 단순히 성능 경쟁에만 매몰될 것이 아니라, 안전과 윤리에 대한 책임감을 가지고 기술을 개발하고 관련 정보를 투명하게 공개해야 합니다. 구글이 이번 논란을 계기로 AI 안전에 대한 사회적 우려를 해소하고 책임감 있는 모습을 보여줄 수 있을지 주목됩니다.