기술/연구

“구글 역대급 발명” 메모리 6배 아끼는 AI 압축 터보퀀트 공개

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.04.22 07:51

기사 3줄 요약

1 구글 메모리 6배 아끼는 AI 압축 기술 터보퀀트 공개
2 폴라퀀트 기법으로 정확도 유지하며 연산 속도 8배 향상
3 KAIST 한인수 교수 참여해 온디바이스 AI 대중화 기대

구글이 인공지능 성능을 획기적으로 높일 수 있는 기술을 발표했습니다. KAIST 연구진과 함께 개발한 터보퀀트가 그 주인공입니다. 이 기술은 모델의 정확도는 유지하면서 메모리 사용량을 6배나 줄여줍니다.

AI가 기억력이 나빴던 이유

대형 언어 모델은 대화를 나눌 때 문맥을 기억하는 공간이 필요합니다. 이를 KV 캐시라고 부르는데 데이터가 쌓일수록 메모리를 엄청나게 차지합니다. 결국 시스템이 느려지는 원인이 됩니다. 기존에는 데이터를 압축하면 인공지능이 멍청해지는 문제가 있었습니다. 압축 과정에서 정보가 손실되어 답변의 질이 떨어졌기 때문입니다. 하지만 이번 신기술은 수학적인 방법으로 이 한계를 극복했습니다.

수학으로 해결한 압축 비결

핵심 비결은 폴라퀀트라는 새로운 데이터 변환 방식에 있습니다. 데이터를 동서남북 좌표가 아닌 방향과 거리로 표현하는 방식입니다. 덕분에 불필요한 계산 과정을 획기적으로 줄일 수 있었습니다. 여기에 1비트만 사용하는 미세 오차 보정 기술을 더했습니다. 아주 적은 정보로도 원래 데이터와의 차이를 거의 완벽하게 메워줍니다. 덕분에 압축을 해도 정확도가 원본 모델과 똑같은 수준입니다.

스마트폰에서 챗GPT가 쌩쌩

성능 지표를 보면 그 결과가 더욱 놀랍습니다. 엔비디아의 최신 칩에서 실행한 결과 속도가 기존보다 8배나 빨라졌습니다. 메모리는 6분의 1만 써도 충분하다는 결과가 나왔습니다. 구글 리서치와 KAIST 한인수 교수는 이번 성과가 인공지능 대중화를 앞당길 것이라 보고 있습니다. 이제 고성능 하드웨어 없이도 스마트폰에서 강력한 기능을 쓸 수 있게 됩니다. 인공지능 서비스 가격이 낮아지는 효과도 기대됩니다.