도구/제품

“총 보고도 ‘농기구’라는 구글 AI” 우리집 감시카메라 믿어도 될까?

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.05 06:55

기사 3줄 요약

1 구글, 모든 것을 보는 AI 홈캠 ‘제미나이’ 출시
2 실험 결과, 총기 오인하고 없는 사실 지어내
3 가정용 보안 AI, 신뢰성 논란에 휩싸여

구글이 야심 차게 내놓은 인공지능(AI) 홈캠 ‘제미나이 포 홈’이 출시 초기부터 심각한 신뢰성 문제에 부딪혔습니다. 집안의 모든 움직임을 텍스트로 설명해 주는 혁신적인 기능 이면에, 위험한 물건을 제대로 인식하지 못하고 있지도 않은 일을 지어내는 등 치명적인 결함이 발견된 것입니다. 한 IT 전문 매체의 리뷰에 따르면, 이 AI는 심지어 샷건(사냥용 총)을 ‘정원 도구’로 잘못 인식하는 어처구니없는 실수를 저질렀습니다. 이는 단순한 오류를 넘어, 보안을 최우선으로 해야 할 감시 시스템의 존재 이유를 근본적으로 흔드는 문제입니다.

그래서 구글 제미나이 홈이 뭔데?

제미나이 포 홈은 구글의 가정용 CCTV인 ‘네스트 캠’에 적용된 새로운 AI 기술입니다. 월 20달러(약 2만 7천 원)를 내면 카메라가 촬영한 영상을 AI가 분석해 “A가 상자에서 물건을 꺼낸다”, “고양이 두 마리가 방으로 들어온다”처럼 구체적인 상황을 글로 알려줍니다. 단순히 ‘사람 감지’ 알림만 보내던 기존 방식보다 훨씬 똑똑해진 셈입니다. 덕분에 사용자는 불필요한 알림에 시달리지 않고도 집안 상황을 더 정확하게 파악할 수 있다는 기대를 모았습니다.

근데, 총 보고 농기구라고 한다고?

하지만 기대는 곧 실망과 불안으로 바뀌었습니다. 테스트 결과 제미나이 AI는 결정적인 순간에 심각한 오작동을 일으켰습니다. 앞서 언급한 샷건 오인 사건 외에도, 사람이 큰 칼을 들고 위협적인 행동을 해도 이를 전혀 언급하지 않았습니다. 더 큰 문제는 AI가 소설을 쓴다는 점입니다. 하루 동안의 일을 요약해 주는 ‘홈 브리프’ 기능에서는 집에 있지도 않았던 딸이 할로윈 사탕을 나눠줬다고 설명하거나, 부부만 있었던 저녁에 다른 사람들도 함께 있었다는 등 사실과 다른 내용을 보고했습니다. 이는 AI가 상황을 이해하는 것이 아니라, 단순히 보이는 것을 짜깁기해 그럴듯한 이야기를 만들어내는 수준에 불과하다는 것을 보여줍니다.

그냥 실수 아냐? 뭐가 문제라는 거지?

이러한 오류는 단순한 기술적 결함을 넘어섭니다. 보안 시스템의 핵심은 ‘신뢰’입니다. 사용자는 내 집과 가족의 안전을 지켜준다는 믿음으로 기꺼이 비용을 지불하고 사생활의 일부를 감수합니다. 하지만 구글의 AI처럼 위험을 감지하지 못하고 거짓 정보까지 만들어내는 시스템을 과연 신뢰할 수 있을까요. 오히려 이런 AI는 사용자에게 잘못된 안도감을 심어주거나, 있지도 않은 일로 불안감을 조성하는 애물단지가 될 수 있습니다.

AI 감시카메라, 아직은 시기상조일까

물론 동물을 구별하거나 늦은 밤 귀가하는 자녀를 확인하는 등 긍정적인 측면도 있습니다. 그러나 생명과 재산을 지키는 보안의 영역에서 이 정도의 오류는 용납될 수 없습니다. 구글의 제미나이 포 홈 사례는 우리에게 중요한 질문을 던집니다. 모든 것을 보는 AI가 과연 모든 것을 이해하고 있을까요. 기술이 우리의 안전을 완벽히 책임질 수 있다는 믿음은 아직 섣부른 환상일지 모릅니다.