기술/연구

“챗GPT도 틀릴 때 있다!” 구글 ‘이것’ 모르면 AI 답변 절대 믿지 마세요

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.05.24 04:23

기사 3줄 요약

1 AI 답변 오류, 구글 '맥락 부족' 지적
2 구글, AI 정확도 높일 '충분한 맥락' 해법 제시
3 자동 평가·'모르겠다' 학습으로 AI 신뢰도 향상 기대

챗GPT 같은 인공지능(AI)이 가끔 엉뚱한 대답을 내놓거나 심지어 거짓말 같은 정보를 만들어내는 경우가 있습니다. 이런 현상을 ‘환각’이라고 부르는데, 왜 이런 일이 벌어지는 걸까요. 최근 구글 연구원들이 이 문제의 핵심 원인과 해결책을 제시해 주목받고 있습니다. 바로 AI에게 ‘충분한 맥락’을 제공해야 한다는 것입니다. 질문에 대한 명확한 답을 줄 만큼 정보가 충분하지 않으면, AI는 부정확하거나 그럴듯한 거짓 정보를 만들어낼 가능성이 커집니다. 구글은 이 문제를 해결하기 위해 ‘충분한 맥락’이라는 새로운 접근 방식을 제안했습니다.

AI는 왜 자꾸 헛소리를 할까?

가장 큰 이유는 AI가 질문의 배경이나 상황, 즉 ‘맥락’을 제대로 파악하지 못하기 때문입니다. 사람처럼 유연하게 생각하는 것이 아니라, 학습한 데이터를 기반으로 답변을 생성하기 때문이죠. 그래서 정보가 부족하거나 모호하면 AI는 길을 잃고 헤매는 것과 같습니다. 이 문제를 해결하지 못하면 기업에서 AI를 활용하는 데 큰 걸림돌이 됩니다. 중요한 의사결정에 AI의 잘못된 답변을 참고한다면 큰 손실로 이어질 수 있기 때문입니다. 그래서 AI 답변의 신뢰도를 높이는 것은 매우 중요한 과제입니다.

구글이 찾은 해법, '충분한 맥락'이 뭐길래?

구글이 제시한 ‘충분한 맥락’ 방법론은 크게 세 가지 핵심 요소로 이루어집니다. 첫째는 AI가 받은 정보가 질문에 답하기에 충분한지 자동으로 평가하는 것입니다. 둘째는 정보가 부족하다고 판단되면, AI가 솔직하게 ‘모르겠다’고 답하도록 훈련시키는 것입니다. 셋째는 AI가 참고하는 정보들의 순서를 질문과 가장 관련성이 높은 순으로 다시 정렬하는 것입니다. 마치 우리가 정보를 찾을 때 가장 중요한 것부터 살펴보는 것과 비슷합니다. 이 세 가지 방법을 적용하면 AI 답변의 정확성과 신뢰도를 크게 높일 수 있다고 구글은 설명합니다.

'모르겠다'고 말하는 AI, 똑똑한 걸까?

AI가 ‘모르겠다’고 말하는 것이 과연 좋은 일일까요. 구글 연구팀은 그렇다고 말합니다. 잘못된 정보를 자신 있게 말하는 것보다, 모르는 것을 모른다고 인정하는 것이 훨씬 더 신뢰할 수 있다는 것입니다. 이를 위해 AI 모델을 훈련할 때, 정보가 불충분한 경우에는 ‘모르겠다’고 답변하도록 가르칩니다. 마치 학생에게 모르는 문제는 솔직하게 이야기하라고 가르치는 것과 같습니다. 이렇게 하면 사용자는 AI의 답변을 더 비판적으로 수용하고, 중요한 결정은 다시 한번 확인하는 과정을 거치게 될 것입니다.

그래서 우리에게 뭐가 좋은 건데?

이런 기술이 발전하면 우리가 일상이나 업무에서 AI를 더욱 믿고 활용할 수 있게 됩니다. 예를 들어, 고객센터 AI는 더 정확한 답변을 제공하고, 회사 내부 문서를 검색하는 AI는 필요한 정보를 더 빨리 찾아줄 수 있습니다. 법률 문서처럼 복잡하고 중요한 내용을 다루는 AI도 분석의 정확도를 높일 수 있습니다. 물론 아직 해결해야 할 문제도 남아있습니다. 자동 평가 시스템이 완벽하지 않을 수 있고, AI를 훈련시키는 데 많은 비용이 들 수도 있습니다. 또한, 특정 분야에서만 잘 작동하고 다른 분야에서는 성능이 떨어지는 문제도 발생할 수 있습니다.

완벽하진 않지만, 기대되는 AI의 미래

구글의 ‘충분한 맥락’ 솔루션은 AI가 더 똑똑하고 믿을 수 있게 발전하는 데 중요한 역할을 할 것으로 보입니다. AI가 스스로 정보의 충분성을 판단하고, 모르는 것은 모른다고 말할 수 있게 된다면 우리는 AI를 더욱 신뢰하게 될 것입니다. 하지만 기술 발전만으로는 부족합니다. AI를 어떻게 활용하고 발전시킬지에 대한 윤리적인 고민과 인간의 지혜가 함께 필요합니다. 앞으로 AI가 우리 삶의 진정한 동반자가 되기 위한 노력이 계속될 것입니다.