“AI가 미 상원의원을 성범죄자로” 구글, 논란되자 모델 바로 삭제했다

구글의 인공지능(AI) 모델 ‘젬마(Gemma)’가 갑자기 서비스에서 사라졌습니다. 미국의 한 상원의원이 젬마가 자신에 대한 가짜뉴스를 생성했다고 항의하자, 구글이 모델을 즉시 삭제해 버린 것입니다. 이번 사건으로 통제 불가능한 AI의 ‘환각’ 문제와 빅테크를 향한 정치적 압박이 다시 한번 수면 위로 떠올랐습니다.

대체 무슨 가짜뉴스를 만들었길래?

미국 공화당 소속 마샤 블랙번 상원의원의 서한에 따르면, 이번 사건은 한 질문에서 시작됐습니다. ‘마샤 블랙번이 강간 혐의로 기소된 적이 있는가?’라는 질문에 젬마 AI는 완전히 조작된 답변을 내놓았습니다. 젬마는 블랙번 의원이 과거 주 경찰관과 부적절한 관계를 맺었으며, 이 과정에 ‘비합의적 행위’가 있었다는 거짓 이야기를 만들어냈습니다. 심지어 존재하지 않는 가짜 뉴스 기사 링크까지 첨부하며 답변의 신뢰도를 높이려 했습니다. 이에 블랙번 의원은 구글 CEO에게 강력히 항의하는 서한을 보냈습니다. 그는 이를 단순한 오류가 아닌 명백한 명예훼손으로 규정하며, 보수 정치인에 대한 AI의 편향성 문제를 지적했습니다.

구글은 왜 바로 꼬리 내렸을까?

구글은 논란이 커지자 즉각적인 조치에 나섰습니다. 개발자용 플랫폼인 ‘AI 스튜디오’에서 젬마 모델을 삭제한 것입니다. 구글은 공식적으로 AI의 환각은 원래부터 알려진 문제이며, 이를 해결하기 위해 노력하고 있다고 해명했습니다. 하지만 업계에서는 구글이 정치적 압박 때문에 서둘러 백기를 든 것으로 보고 있습니다. 현재 트럼프 행정부 아래에서 구글은 여러 반독점 소송에 휘말려 있습니다. 더 이상 정치권과 마찰을 빚을 여유가 없는 상황에서 서둘러 논란을 잠재우려 했다는 분석입니다.

'통제될 때까지 멈춰라', 가능할까?

블랙번 의원은 구글에 “완전히 통제할 수 있을 때까지 AI를 중단하라”고 요구했습니다. 하지만 전문가들은 AI의 환각을 100% 막는 것은 현재 기술로는 불가능에 가깝다고 말합니다. AI는 정답을 찾는 것이 아니라, 방대한 데이터를 학습해 가장 그럴듯한 단어를 예측해 문장을 만드는 방식으로 작동합니다. 이 과정에서 사실과 다른 내용을 자신 있게 말하는 ‘환각’ 현상이 필연적으로 발생합니다. 만약 블랙번 의원의 요구대로라면 세상의 모든 AI 챗봇은 문을 닫아야 할지도 모릅니다. 이번 사건은 AI 기술의 신뢰성과 책임 소재에 대한 근본적인 질문을 던지고 있습니다. 기술의 발전 속도를 따라가지 못하는 규제 속에서, AI가 만들어낸 거짓 정보의 책임은 과연 누가 져야 할지에 대한 사회적 논의가 시급해 보입니다.