기술/연구

“게임 내용을 현실로 착각..” 구글 제미나이 엉뚱한 실수

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.26 21:33

기사 3줄 요약

1 AI가 게임 내용을 실제 삶으로 착각
2 사용자가 가상임을 직접 설명해 줘야
3 AI의 맥락 파악 능력 한계 드러나

과거 1980년대에는 부모님들이 자녀들을 보며 한 가지 큰 걱정을 했습니다. 아이들이 ‘던전 앤 드래곤(D&D)’ 같은 판타지 게임에 너무 깊이 빠져 현실과 가상을 구분하지 못할까 봐 두려워했던 것입니다. 그런데 40년이 지난 지금, 상황이 아주 묘하게 바뀌었습니다. 정작 현실과 가상을 구분하지 못해 허우적거리는 것은 사람이 아니라, 최첨단 기술의 집약체인 인공지능(AI)이기 때문입니다.

게임이 현실인 줄 아는 AI

최근 한 커뮤니티 사용자가 구글의 최신 AI 모델인 ‘제미나이(Gemini)’를 사용하다 겪은 황당한 일화가 화제입니다. 이 사용자는 제미나이를 D&D 게임의 보조 진행자(던전 마스터)로 활용하고 있었습니다. 게임 속에서 마법을 쓰고 용과 싸우는 이야기를 AI와 주고받았던 것입니다. 그런데 문제가 발생했습니다. 제미나이가 게임 속 판타지 상황을 사용자의 ‘진짜 삶’으로 착각하기 시작한 것입니다. AI는 사용자가 실제로 마법 세계에 살고 있다고 인지했고, 결국 사용자가 “이건 다 지어낸 이야기야”라고 설명해 줘야만 했습니다. 최고의 지능을 가졌다는 AI가 고작 게임 설정 하나를 이해 못 해 쩔쩔매는 모습은 많은 이들에게 웃음과 충격을 동시에 안겼습니다.

똑똑한 비서의 멍청한 실수

이 사건은 단순한 해프닝처럼 보이지만, 사실 AI 기술의 현주소를 적나라하게 보여주는 사례입니다. 구글은 제미나이에 사용자의 정보를 기억하고 맥락을 파악하는 ‘개인 지능’ 기능을 야심 차게 도입했습니다. 하지만 이 기능이 오히려 독이 되었습니다. AI는 수많은 데이터를 학습하지만, 그 데이터가 ‘현실’인지 ‘상상’인지 구분하는 능력은 여전히 부족합니다. 마치 책을 통째로 외웠지만 그 내용이 소설인지 역사책인지 모르는 것과 같습니다. 사용자의 대화 기록을 무조건적인 ‘사실’로 받아들이는 AI의 특성이 이번 촌극을 빚어낸 것입니다.

우리가 진짜 걱정해야 할 것

이번 일은 게임이었기에 웃고 넘길 수 있었습니다. 하지만 만약 AI가 의료 기록이나 금융 정보 같은 중요한 데이터를 다룰 때도 이런 실수를 한다면 어떨까요? 사용자의 농담을 진담으로 받아들여 경찰에 신고하거나, 소설 쓴 내용을 실제 범죄 자백으로 오해할 수도 있습니다. 기술은 빛의 속도로 발전하고 있지만, 인간의 복잡한 언어와 상황을 이해하는 ‘눈치’는 아직 걸음마 단계입니다. AI가 진정한 비서가 되려면 단순히 정보를 기억하는 것을 넘어, 그 정보가 어떤 맥락에서 나왔는지 파악하는 ‘문해력’을 길러야 합니다. 기술의 발전 속도만큼이나, 그 기술이 현실에 제대로 발붙이고 있는지 끊임없이 점검해야 할 시점입니다.