“침입자 발생!” 구글 홈캠 AI의 섬뜩한 경고, 알고 보니 ‘이것’

최근 구글이 야심 차게 내놓은 인공지능(AI) 스마트홈 서비스가 황당한 실수 연발로 논란의 중심에 섰습니다. 월 20달러, 우리 돈으로 약 2만 7천 원을 내야 하는 유료 서비스입니다. 그런데 집을 지켜줘야 할 AI가 오히려 이용자들을 불안에 떨게 만들고 있습니다. 멀쩡한 반려견을 사슴으로 착각하는가 하면, 아무도 없는 빈집에 침입자가 나타났다는 섬뜩한 경고까지 보내고 있습니다.

그래서, 이 AI 정체가 뭔데?

논란이 된 서비스의 이름은 ‘제미나이 홈’입니다. 구글의 스마트홈 기기들을 AI 제미나이와 연결한 것입니다. 이용자가 유료 구독을 하면, 집 안팎에 설치된 카메라 영상을 AI가 분석해 주는 방식입니다. 예를 들어, 하루 동안 있었던 일을 요약해주는 ‘데일리 브리핑’ 기능이 있습니다. 또, “오늘 택배 온 거 있어?”처럼 자연스러운 질문으로 영상을 찾아볼 수 있는 ‘에스크 홈’ 기능도 제공합니다. 이론상으로는 매우 편리한 서비스입니다.

강아지를 사슴으로 착각한다고?

문제는 AI의 정확도가 기대에 한참 미치지 못한다는 점입니다. 해외 IT 전문 매체 아스테크니카에 따르면, 한 사용자의 제미나이 홈은 실내에서 키우는 강아지를 보고 “예상치 못하게 사슴 한 마리가 잠시 거실에 들어왔습니다”라는 요약을 내놓았습니다. 이런 동물 오인 사례는 여러 차례 반복됐습니다. 더 심각한 문제는 있지도 않은 침입자를 경고하는 경우입니다. 빈 거실을 촬영한 영상을 보고 “거실에서 사람이 목격되었습니다”라는 알림을 보내 사용자를 깜짝 놀라게 만들었습니다. 이런 잘못된 경고가 반복되면서 정작 실제 위급 상황이 발생해도 무시하게 될 수 있다는 우려가 나옵니다.

구글은 지금 뭐라는데?

구글은 이러한 문제점을 일부 인정했습니다. 구글 대변인은 “AI가 때때로 추론 과정에서 실수를 할 수 있다”며 “강아지를 고양이나 사슴으로 착각하는 경우가 그런 사례”라고 설명했습니다. 또한, 사용자가 AI의 실수를 바로잡아 주면 학습을 통해 나아질 수 있다고 덧붙였습니다. 하지만 이용자들은 돈을 내고 쓰는 서비스의 베타 테스터가 된 기분이라며 불만을 표하고 있습니다. 오히려 AI 기능이 없는 더 저렴한 요금제가 속 편하다는 반응까지 나오고 있습니다.

똑똑한 AI, 아직은 시기상조일까

제미나이 홈은 현재 일부 이용자들을 대상으로 시범 운영 중이며, 곧 전면적으로 도입될 예정입니다. 구글은 정확도를 개선하기 위해 집중적으로 투자하고 있다고 밝혔습니다. 하지만 시간을 절약해줘야 할 AI가 오히려 불필요한 확인을 하게 만드는 현재 상황은 아이러니합니다. 똑똑한 집을 꿈꾸는 기술의 발전이 때로는 웃지 못할 소동을 낳고 있습니다. 구글이 이 문제를 해결하고 소비자의 신뢰를 얻기까지는 시간이 더 필요해 보입니다.