기술/연구

“죽을 수도 있다..” 구글 AI, 건강 정보 삭제한 충격 이유

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.13 08:24

기사 3줄 요약

1 구글, AI 건강 요약 서비스 긴급 중단
2 간 수치와 암 식단 등 치명적 오류 발견
3 검색 상위 노출 정보 맹신이 원인 지적

최근 구글이 자사의 인공지능(AI) 검색 요약 기능인 ‘AI 오버뷰’의 일부 건강 관련 답변을 긴급 삭제하는 일이 벌어졌습니다. 외신 조사 결과, 구글의 AI가 사용자에게 잘못된 의학 정보를 제공해 생명을 위협할 수 있다는 사실이 드러났기 때문입니다. 특히 심각한 질병을 앓고 있는 환자들에게 치명적일 수 있는 엉터리 조언을 한 것으로 밝혀져 큰 충격을 주고 있습니다. 도대체 구글의 최첨단 AI가 어떤 실수를 저질렀기에 이런 사태가 벌어진 것일까요?

AI 의사가 내린 처방은 ‘엉터리’였다

문제가 된 것은 주로 간 기능 검사와 췌장암 환자 식단에 대한 정보였습니다. 조사에 따르면, AI는 간 수치 검사 결과를 묻는 질문에 대해 나이, 성별, 병력 같은 중요한 맥락을 무시한 채 단순히 기계적인 수치표만 보여주었습니다. 의료 전문가들은 “정상 범위의 수치라도 실제로는 심각한 간 질환이 있을 수 있다”며 AI의 단편적인 정보가 환자들에게 ‘나는 건강하다’는 잘못된 확신을 심어줄 수 있다고 경고했습니다. 더욱 충격적인 것은 췌장암 환자에 대한 조언이었습니다. AI는 췌장암 환자에게 “고지방 음식을 피하라”고 권고했는데, 이는 체중 유지가 필수적인 암 환자들에게 오히려 해가 될 수 있는 내용이었습니다. 실제 의료 지침과 정반대되는 위험한 조언을 아무렇지 않게 내놓은 것입니다.

검색 1등이 곧 진실은 아니다

그렇다면 세계 최고의 기술력을 자랑하는 구글의 AI가 왜 이런 오류를 범했을까요? 전문가들은 그 원인을 구글의 ‘검색 순위 시스템’에 대한 맹신에서 찾고 있습니다. 구글의 AI 오버뷰는 웹상에서 검색 순위가 높은 문서들을 바탕으로 답변을 작성하도록 설계되었습니다. 문제는 검색 결과 상위에 노출된 정보가 반드시 정확한 의학적 사실을 담고 있는 것은 아니라는 점입니다. 검색 엔진 최적화(SEO) 기술을 이용해 상위 노출을 노린 스팸성 게시물이나 검증되지 않은 민간요법 글들이 AI의 학습 자료가 된 것입니다. 결국 AI는 인터넷에 떠도는 부정확한 정보를 ‘권위 있는 답변’처럼 포장해 사용자에게 전달하는 확성기 역할을 한 셈입니다.

기술의 발전인가, 예고된 재앙인가

이번 사태는 AI 기술이 가진 구조적 한계를 여실히 보여줍니다. 구글 측은 문제가 된 검색어에 대한 답변을 삭제하고, “대부분의 정보는 정확하다”며 진화에 나섰습니다. 하지만 전문가들은 단순히 특정 키워드를 막는 것만으로는 근본적인 해결책이 될 수 없다고 지적합니다. 실제로 검색어를 조금만 바꿔서 입력하면 여전히 AI가 잘못된 건강 정보를 요약해 보여주는 경우가 발견되었기 때문입니다. 건강과 생명이 직결된 문제에서 AI의 ‘할루시네이션(거짓 답변)’은 단순한 오류를 넘어 돌이킬 수 없는 결과를 초래할 수 있습니다. 앞으로 AI를 의료 분야에 활용할 때 훨씬 더 엄격한 검증 시스템이 필요하다는 목소리가 높아지고 있습니다. 우리가 AI의 답변을 맹신하기보다, 중요한 건강 문제는 반드시 전문 의료진과 상담해야 하는 이유가 다시 한번 증명되었습니다.