이슈/트렌드

"AI 검색 믿다간 큰일!" 구글, 보잉 사고를 에어버스로 둔갑시켜

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.13 07:28

기사 3줄 요약

1 구글 AI, 항공기 추락 사고 기종 오류 정보 제공
2 보잉 787 사고를 에어버스 A330으로 잘못 알려 논란
3 AI 환각 현상 심각, 정보 신뢰도 문제 대두

구글의 인공지능(AI) 검색 기능이 또다시 큰 사고를 쳤습니다. 우리가 흔히 정보를 얻는 구글 검색창에서, AI가 끔찍한 항공기 추락 사고의 핵심 정보를 완전히 틀리게 알려주는 일이 발생한 것입니다. 자칫하면 큰 혼란을 일으킬 수 있는 이번 오류는 AI 정보의 신뢰성에 심각한 물음표를 던지고 있습니다.

AI가 또 사고 쳤다고? 대체 무슨 일이야

최근 인도에서 발생한 에어 인디아 여객기 추락 사고는 200명이 넘는 안타까운 생명을 앗아갔습니다. 사고 기종은 '보잉 787'이었지만, 구글의 'AI Overview' 기능은 이 사고를 '에어버스 A330' 기종의 사고라고 버젓이 안내했습니다. 심지어 어떤 검색에서는 보잉과 에어버스를 둘 다 언급하거나, 검색할 때마다 다른 항공기 제조사를 지목하는 등 오락가락하는 모습을 보였습니다. 이런 황당한 오류는 한 해외 온라인 커뮤니티 사용자의 제보로 알려지기 시작했습니다. 이 사용자가 에어버스 항공기 관련 사고를 검색하자, AI Overview가 엉뚱하게 이번 에어 인디아 사고를 예시로 들며 에어버스 A330이 추락했다고 설명한 것입니다. 여러 사람이 비슷한 검색을 시도한 결과, AI는 때로는 보잉, 때로는 에어버스를 사고 원인으로 지목하며 혼란을 가중시켰습니다.

대체 왜 이런 일이? AI 환각의 원인은

그렇다면 똑똑한 줄 알았던 AI는 왜 이렇게 어처구니없는 실수를 하는 것일까요? 전문가들은 AI가 '환각(Hallucination)' 현상을 일으킨 것으로 보고 있습니다. 환각 현상이란 AI가 실제로는 없는 정보를 마치 사실인 것처럼 만들어내는 오류를 말합니다. 생성형 AI는 수많은 데이터를 학습해 그럴듯한 문장을 만들어내는 방식으로 작동합니다. 하지만 AI는 인간처럼 정보의 진짜 의미나 맥락을 완벽하게 이해하지는 못합니다. 이번 사건의 경우, 많은 뉴스 기사들이 에어 인디아 사고를 다루면서 보잉의 주요 경쟁사로 에어버스를 언급했을 가능성이 있습니다. AI는 이 정보를 요약하는 과정에서 '에어버스'라는 단어에 과도하게 집중해, 실제 사고 기종과 혼동했을 수 있다는 분석입니다. 즉, AI는 진실을 말하는 것이 아니라, 학습한 데이터를 기반으로 가장 그럴듯해 보이는 '이야기'를 지어낸 셈입니다.

구글은 뭐래? 기업들 반응은 어때?

구글은 이러한 AI 오류 가능성에 대해 이미 알고 있다는 입장입니다. AI Overview 답변 하단에는 작은 글씨로 "AI 답변에 실수가 포함될 수 있습니다"라는 안내 문구를 넣어두었습니다. 하지만 이렇게 중요한 사안에서까지 오류가 발생하면서, 단순한 안내 문구만으로는 책임을 피하기 어렵다는 비판이 나오고 있습니다. 이번 오류는 관련 기업들에게도 민감한 문제입니다. 에어버스 입장에서는 자사 항공기가 언급된 것 자체가 불쾌할 수 있고, 최근 여러 문제로 이미지에 타격을 입은 보잉에게는 의도치 않게 잠시 논점에서 벗어나는 효과를 줄 수도 있습니다. 하지만 궁극적으로는 AI 정보 전체에 대한 불신으로 이어질 수 있어 모든 기업에게 부정적인 영향을 미칠 수 있습니다. 이번 구글 AI의 황당한 실수는 우리에게 중요한 교훈을 줍니다. AI가 제공하는 정보는 편리하지만, 아직 완벽하지 않다는 사실입니다. 특히 중요한 정보일수록 AI의 답변을 맹신하기보다는 여러 출처를 통해 교차 확인하는 습관이 필요합니다. 앞으로 AI 기술이 더욱 발전하겠지만, 그 과정에서 발생할 수 있는 오류에 대해 경계심을 늦추지 않아야 할 것입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr