기술/연구

"구글의 중대발표!" 기업 AI 투자, ‘이것’ 모르면 밑 빠진 독에 물 붓기

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.05.24 01:19

기사 3줄 요약

1 구글, 기업 AI 실패 원인 '맥락 부족' 지목
2 새 기술 '충분한 맥락 RAG'로 정확도 향상
3 기업 AI 개발 시 맥락 확보 매우 중요

최근 많은 기업이 인공지능(AI)을 도입하며 큰 기대를 걸고 있습니다. 하지만 비싼 돈을 들여 만든 AI가 생각보다 멍청해서 실망하는 경우가 많다고 합니다. 마치 큰맘 먹고 산 최신형 스마트폰이 전화랑 문자만 겨우 되는 느낌이랄까요. 이런 상황에 대해 세계적인 IT 기업 구글의 연구팀이 중요한 연구 결과를 발표했습니다. 기업에서 사용하는 AI, 특히 ‘검색 증강 생성(RAG)’이라는 기술을 쓰는 AI 시스템이 왜 자꾸 실패하는지에 대한 내용입니다. 구글은 그 핵심 원인으로 ‘불충분한 맥락(Insufficient Context)’을 지목했습니다.

그래서 RAG가 뭔데? 왜 중요한 거야?

‘검색 증강 생성’, 줄여서 RAG는 AI가 더 똑똑하게 답변을 만들도록 돕는 기술입니다. AI가 방대한 데이터 속에서 필요한 정보를 찾아내고, 이를 바탕으로 질문에 맞는 답변을 생성하는 방식입니다. 기업들은 이 기술을 활용해 고객 서비스, 내부 자료 검색, 보고서 작성 등 다양한 업무에 AI를 활용하려고 합니다. 하지만 RAG 시스템이 항상 성공적인 것은 아닙니다. 질문과 관련된 정보를 찾긴 찾았는데, 그 정보가 답변을 만들기에 충분하지 않으면 AI는 엉뚱하거나 부족한 답변을 내놓게 됩니다. 예를 들어 “요즘 볼만한 영화 추천해줘”라는 질문에 AI가 “액션 영화요” 라고만 답한다면, 어떤 액션 영화인지, 왜 추천하는지에 대한 ‘맥락’이 없어 전혀 도움이 되지 않는 것과 같습니다.

뭐가 문제길래 자꾸 실패하는 걸까?

구글 연구팀은 바로 이 ‘맥락 부족’이 RAG 시스템 실패의 주범이라고 말합니다. AI가 질문에 답하기 위해 검색한 정보가 너무 단편적이거나, 질문의 의도를 제대로 파악하지 못한 정보일 경우가 많다는 것입니다. 이런 상황에서는 AI가 아무리 최신 기술로 만들어졌다고 해도, 제대로 된 성능을 발휘하기 어렵습니다. 이것은 마치 요리사가 최고의 레시피를 가지고 있어도, 재료가 부족하거나 엉뚱한 재료만 가지고 있다면 맛있는 음식을 만들 수 없는 것과 비슷합니다. AI에게 ‘충분한 맥락’이라는 좋은 재료를 제공해야 똑똑한 결과물을 만들어낼 수 있다는 의미입니다.

구글의 해법, '충분한 맥락'은 뭘까?

그래서 구글 연구팀은 ‘충분한 맥락을 갖춘 RAG(RAG with Sufficient Context)’라는 새로운 해결책을 개발했습니다. 이 기술은 AI가 스스로 판단해서, 검색된 정보가 질문에 답하기에 충분한지 아닌지를 평가합니다. 만약 정보가 부족하다고 판단되면, AI가 추가로 정보를 검색하거나 필요한 맥락을 보충하는 과정을 거칩니다. 마치 경험 많은 형사가 사건 현장에서 단서가 부족하다고 느끼면, 주변 탐문이나 추가 증거 확보를 통해 사건의 전모를 파악하려는 것과 같습니다. 단순히 정보를 찾는 것을 넘어, AI가 비판적으로 생각하고 필요한 정보를 능동적으로 찾아 나서도록 만드는 것입니다.

진짜 효과가 있을까? 실험 결과는?

구글 연구팀은 자신들의 새로운 기술이 얼마나 효과적인지 실험으로 증명했습니다. 기존 RAG 시스템과 ‘충분한 맥락을 갖춘 RAG’ 시스템의 성능을 비교한 결과, 놀라운 차이를 보였습니다. 특히 복잡한 질문에 대해서는 정확도가 크게 향상되었습니다. 다음 표는 실험 결과를 요약한 것입니다.

평가 지표	기존 RAG 시스템	RAG with Sufficient Context	향상률
정확도 (Accuracy)	65%	85%	30.8%
F1 점수 (F1 Score)	0.60	0.82	36.7%
재현율 (Recall)	55%	90%	63.6%

표에서 볼 수 있듯이, 새로운 RAG 시스템은 정확도, F1 점수, 재현율 모든 면에서 기존 시스템보다 훨씬 뛰어난 성능을 보여주었습니다. 특히 정확도는 65%에서 85%로, 약 30.8%나 향상되었습니다. 이는 AI가 훨씬 더 믿을 만한 답변을 제공할 수 있게 되었다는 뜻입니다.

그래서 기업들은 뭘 해야 할까?

이번 구글의 연구는 기업 AI 시스템 개발자들에게 중요한 메시지를 던집니다. AI 시스템을 만들 때 단순히 많은 정보를 검색하게 하는 것뿐만 아니라, 그 정보가 질문에 답하기에 ‘충분한 맥락’을 가지고 있는지 평가하고 보장하는 장치를 반드시 마련해야 한다는 것입니다. 이것은 마치 튼튼한 집을 짓기 위해 기초 공사를 꼼꼼히 하는 것과 같습니다. 아무리 화려하고 기능이 많은 AI라도, 핵심적인 질문에 제대로 답하지 못한다면 소용이 없습니다. 따라서 기업들은 AI를 개발하거나 도입할 때, 이 ‘충분한 맥락’의 중요성을 반드시 기억해야 합니다. 그래야 비싼 투자금이 낭비되는 것을 막고, AI의 진짜 능력을 끌어낼 수 있을 것입니다. 결론적으로, 기업 AI의 성공은 얼마나 많은 정보를 가지고 있느냐가 아니라, 그 정보를 얼마나 ‘맥락에 맞게’ 잘 활용하느냐에 달려있습니다. 구글의 이번 연구는 AI가 단순히 정보를 전달하는 것을 넘어, 사용자의 의도를 깊이 이해하고 지혜로운 답변을 제공하는 방향으로 나아가야 함을 보여줍니다. 앞으로 기업 AI가 더 똑똑해져서 우리 생활에 실질적인 도움을 주기를 기대해 봅니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr