기술/연구

뻥쟁이 된 구글 AI? 세상에 없는 말도 진짜처럼 설명

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.04.30 08:06

기사 3줄 요약

1 구글 AI, 없는 속담까지 지어내 설명하며 논란
2 LLM 한계로 농담·거짓 정보 구별 못 해 발생
3 구글, 오류 인정하고 AI 답변 제한 등 개선 착수

최근 구글 검색의 인공지능(AI) 요약 기능이 황당한 답변으로 구설수에 올랐습니다. 세상에 존재하지도 않는 속담이나 말을 너무나 자신감 있게 설명했기 때문입니다. 마치 "오소리를 두 번 핥을 순 없다" 같은, 누가 들어도 이상한 말을 AI가 진지하게 풀이해 주는 식입니다. 인터넷에서는 이 웃기면서도 당황스러운 AI의 답변들이 빠르게 퍼져나갔습니다. 사람들은 일부러 더 이상한 질문을 던지며 AI를 시험했고, 결과는 역시나 기상천외했습니다. 이 사건은 단순한 해프닝을 넘어 AI 기술의 현주소와 문제점을 드러냅니다.

AI는 왜 이런 헛소리를 자신있게 할까?

이 문제의 원인은 구글 AI가 사용하는 거대 언어 모델(LLM)에 있습니다. LLM은 방대한 텍스트 데이터를 학습한 '디지털 따라쟁이'와 같습니다. 그럴듯하게 말을 만들어내는 데는 뛰어나지만, 진짜와 가짜를 구별하거나 농담을 이해하는 능력은 부족합니다. 쉽게 말해, LLM은 문맥상 가장 자연스러운 단어를 예측해 문장을 완성할 뿐, 내용의 진실성은 판단하지 못합니다. 그래서 엉뚱한 질문에도 그럴듯한 '거짓말'을 능숙하게 만들어내는 것입니다. AI에게는 "나는 모른다"고 인정하는 '겸손함'이나 상식이 부족한 셈입니다.

황당 답변들, 어디까지 가봤니?

AI의 창작(?)은 여기서 그치지 않습니다. 있지도 않은 속담을 설명하면서, 마치 특정 영화나 신화, 오래된 문헌에 나오는 것처럼 출처까지 조작하기도 합니다. 단순히 설명을 만들어내는 것을 넘어, 주장을 뒷받침하기 위해 가상의 현실까지 꾸며내는 것입니다. 아래는 AI가 지어낸 황당한 설명의 예시들입니다.

만들어진 속담	AI의 설명
오소리를 두 번 핥을 순 없다	한 번 속은 사람을 두 번 속일 수는 없다는 뜻이라고 자신 있게 설명
피자와 결혼할 수는 없다	결혼은 음식과 하는 것이 아니라 사람 간의 약속임을 표현하는 말이라고 해석
화요일에는 항상 해가 두 개다	영화 '은하수를 여행하는 히치하이커를 위한 안내서'에 나온다고 주장 (거짓)
기린이 왈츠를 추지 않으면 토스터를 태워라	일이 계획대로 안 될 때 극단적 조치가 필요하다는 의미라고 설명

AI는 이렇게 터무니없는 말에도 매우 확신에 찬 어조로 답변합니다. 마치 검증된 사실처럼 정보를 제공하기 때문에, 사용자들이 AI의 답변을 무비판적으로 믿게 될 위험이 있습니다. 잘못된 정보가 퍼지거나 오해를 낳을 수 있는 부분입니다.

구글은 어떻게 대처하고 있을까?

논란이 커지자 구글도 문제를 인정하고 개선 작업에 나섰습니다. 구글 검색 책임자인 리즈 리드는 블로그를 통해 AI 요약 기능 출시 전에 광범위한 테스트를 거쳤지만, 예상치 못한 오류들이 발생했다고 밝혔습니다. 이에 따라 구글은 터무니없는 질문을 더 잘 감지하고, 유머나 풍자적인 내용을 구분하도록 시스템을 개선하고 있습니다. 또한 레딧 같은 사용자 생성 콘텐츠에 대한 의존도를 낮추고, 특정 건강 관련 질문 등에는 AI 답변을 제한하는 등의 조치를 추가했습니다.

그래서 뭘 조심해야 할까?

이번 소동은 AI가 빠르게 발전하고 있지만 여전히 한계가 명확하다는 것을 보여줍니다. 특히 인간 언어의 미묘함, 비유, 농담 앞에서는 허점을 드러내기 쉽습니다. AI가 제공하는 정보를 활용하되, 항상 비판적인 시각을 유지하는 것이 중요합니다. AI가 아무리 그럴듯하게 말해도 곧이곧대로 믿기보다는 한 번 더 확인하는 습관이 필요합니다. AI는 아직 세상을 완벽히 이해하지 못하니, 우리 스스로 판단하는 능력이 더 중요해졌습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr