기술/연구

“엔비디아 또 해냈다” AI 기억력 한계 돌파, 비용은 뚝?

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.09 17:28

기사 3줄 요약

1 엔비디아, AI 지속 학습 기술 공개
2 긴 문맥 처리 비용 획기적 절감
3 속도 2.7배 향상, RAG와 상호보완

AI가 책 한 권을 읽으면 앞 내용을 까먹거나, 기억하는 데 돈이 엄청 든다는 사실 알고 있었어? 엔비디아가 이 문제를 해결할 새로운 기술인 'TTT-E2E'를 공개해서 화제야. 쉽게 말해 AI가 공부하면서 동시에 중요한 내용만 머릿속에 쏙쏙 저장하는 획기적인 방법이지.

AI도 벼락치기는 힘들다?

기존 AI 모델은 방대한 데이터를 미리 공부하고 시험장에 들어가는 학생과 비슷했어. 문제는 시험 시간이 길어지면 앞에 공부한 내용을 까먹거나, 억지로 다 기억하려다 머리가 터진다는 거야. 계산해야 할 양이 기하급수적으로 늘어나서 비용이 폭증하는 치명적인 단점이 있었지. 연구진에 따르면 이번 기술은 '슬라이딩 윈도우'라는 방식을 사용한다고 해. 전체 내용을 한 번에 다 보지 않고, 현재 필요한 부분만 집중해서 보는 방식이야. 마치 손전등으로 필요한 곳만 비춰서 읽는 것과 비슷한 원리라고 보면 돼.

핵심만 요약해서 뇌에 저장한다

그렇다고 지나간 내용을 다 버리는 건 아니니 걱정 마. 중요한 정보는 압축해서 AI의 장기 기억 장소에 따로 저장해두는 똑똑한 방식을 쓰거든. 덕분에 문맥이 아무리 길어져도 속도가 느려지지 않고 비용도 아낄 수 있어. 실제로 테스트해 보니 기존 방식보다 약 2.7배나 속도가 빨라졌다고 해. 연구진에 따르면 문맥이 길어질수록 성능이 더 좋아지는 놀라운 결과가 나왔대. 이제 AI가 긴 소설책이나 복잡한 업무 문서를 읽어도 버벅거리지 않게 된 거야.

검색 기능 RAG는 이제 끝?

그럼 이제 도서관에서 책을 찾아보는 방식인 'RAG' 기술은 필요 없을까? 연구진에 따르면 두 기술은 서로 경쟁하는 게 아니라 돕는 관계가 될 거래. TTT는 뇌처럼 학습하고, RAG는 필요할 때 꺼내 보는 메모장 역할을 하는 셈이지. 앞으로 AI는 모든 걸 토씨 하나 안 틀리고 기억하는 게 아니라, 중요한 걸 잘 요약하는 방향으로 갈 거야. 인간의 뇌 구조와 점점 더 닮아가는 AI의 진화가 정말 놀랍지 않아? 비용은 줄이고 성능은 높인 이번 기술이 우리 삶을 어떻게 바꿀지 기대해 봐도 좋겠어.