기술/연구

“AI 헛소리 멈춰!” 구글, ‘모르면 모른다’ 가르치는 비법 공개?

댓글 3 · 저장 0 · 편집: 이도윤 기자 발행: 2025.05.25 21:07

기사 3줄 요약

1 구글, AI 답변 정확도 향상 새 기술 공개
2 정보 불충분 시 AI '모르겠다' 답변 유도
3 환각 줄이기 목표, 일부 성과와 한계 공존

인공지능(AI)과 대화하다 보면 가끔 엉뚱한 대답에 당황스러울 때가 있습니다. 마치 잘 모르는 내용을 아는 척 둘러대는 사람처럼 말입니다. 구글이 최근 이런 AI의 '헛소리', 즉 환각 현상을 줄이기 위한 새로운 기술을 발표해 주목받고 있습니다. '충분한 컨텍스트(Sufficient Context)'라는 이름의 이 기술은 AI가 질문에 답하기 전에 자신이 가진 정보가 충분한지 먼저 따져보게 만드는 것입니다. 쉽게 말해, AI에게 "잘 모르겠으면 솔직히 모른다고 말해!"라고 가르치는 셈입니다. 이 기술이 AI의 정확성과 신뢰도를 높이는 데 중요한 역할을 할 것으로 기대됩니다.

AI는 왜 자꾸 헛소리를 할까?

최근 많은 기업이 사용하는 검색 증강 생성(RAG) 시스템은 AI가 외부 문서를 검색해 답변의 부족한 부분을 채우는 방식입니다. 하지만 이 RAG 시스템에도 한계가 있었습니다. AI가 관련된 정보를 받고도 자신 있게 틀린 답을 하거나, 중요하지 않은 정보에 한눈을 팔아 핵심을 놓치는 경우가 있었기 때문입니다. 특히, 참고해야 할 문서가 길어질수록 AI는 중요한 정보를 정확히 찾아내기 어려워했습니다. 이는 마치 시험 범위가 너무 넓어서 핵심 내용을 제대로 공부하지 못한 학생과 비슷합니다. 결국 답변의 신뢰성과 정확성이 떨어지는 문제로 이어졌습니다.

구글의 해결책, '충분한 컨텍스트'가 뭐길래?

구글 연구진은 이 문제를 해결하기 위해 AI에게 제공된 정보, 즉 컨텍스트를 두 가지로 나누는 기준을 만들었습니다. 첫 번째는 질문에 정확한 답을 할 만큼 정보가 충분한 '충분한 컨텍스트'이고, 두 번째는 그렇지 않은 '불충분한 컨텍스트'입니다. 이 기준의 핵심은 정답을 미리 몰라도 AI가 가진 정보와 질문만으로 충분한지 아닌지를 판단할 수 있다는 점입니다. 이를 위해 구글은 제미나이 1.5 프로와 같은 대형언어모델(LLM)을 기반으로 '자동 분류기(autorater)'를 개발했습니다. 이 자동 분류기는 주어진 컨텍스트가 충분한지 아닌지를 자동으로 판별해 줍니다. 실제 서비스에서는 정답이 미리 주어지지 않기 때문에, 이런 방식은 매우 유용합니다.

그래서, AI가 똑똑해졌다는 거야?

분석 결과, 당연하게도 컨텍스트가 충분할수록 AI의 정답률은 높아졌습니다. 하지만 여전히 AI는 '모르겠다'고 답하기보다 잘못된 답을 생성하는 경향을 보였습니다. 정보가 부족한 '불충분한 컨텍스트' 상황에서는 일부 AI 모델이 '모르겠다'는 답변 비율을 높이기도 했지만, 동시에 환각 현상도 증가하는 모습이었습니다. 이에 구글은 '선택적 생성(Selective Generation)'이라는 새로운 방법을 제안했습니다. 이것은 작은 '중재 AI'가 먼저 나서서, 메인 AI가 답변을 해야 할지 말지를 결정하는 방식입니다. 이 방법을 적용하자 제미나이, GPT 같은 여러 AI 모델에서 정답률이 2~10%까지 향상되는 효과가 나타났습니다.

아직 갈 길이 멀다고?

구글 연구진은 AI가 정보가 부족할 때 엉뚱한 답 대신 '모르겠다'고 말하도록 가르치기 위해 추가적인 학습도 진행했습니다. 원래 정답 대신 '모르겠다'를 정답으로 알려주며 학습시킨 것입니다. 그 결과 정답률은 더 개선될 수 있었습니다. 하지만 이 '선택적 생성' 방식에도 한계는 분명했습니다. 환각 현상이 나타나는 비율이 여전히 높았고, AI가 '모르겠다'고 솔직히 말하는 경우보다 잘못된 정보를 제공하는 경우가 더 많았습니다. 이는 AI가 아직 사람처럼 완벽하게 정보를 이해하고 판단하지는 못한다는 것을 의미합니다. 결국 이번 구글의 연구는 AI 자체의 능력을 단번에 끌어올리는 기술이라기보다는, AI에게 질문할 때 제공하는 정보의 질이 얼마나 중요한지를 다시 한번 보여준 셈입니다. 구글의 한 선임 연구 과학자는 AI에게 제공된 정보의 충분성이 80~90% 미만이라면, 검색 방식이나 지식 제공 방식을 개선해야 한다고 강조했습니다. 앞으로 AI가 정말 똑똑하고 믿을 수 있는 존재가 되려면, 이런 노력들이 계속 쌓여야 할 것입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr