기술/연구

“카이스트 교수가 해냈다!” 구글과 만든 AI 압축 기술의 엄청난 결과

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.03.30 17:36

기사 3줄 요약

1 카이스트 교수와 구글이 AI 압축 기술 터보퀀트 전격 공개
2 성능 저하 없이 메모리 사용량 6배 줄이고 속도 8배 향상
3 온디바이스 AI와 검색 엔진 효율 극대화할 게임 체인저 기대

구글 리서치와 카이스트 한인수 교수 공동 연구팀이 인공지능의 고질적인 문제를 해결했습니다. 인공지능이 데이터를 처리할 때 발생하는 메모리 과부하를 수학적으로 풀어낸 것입니다. 이들은 차세대 압축 기술인 터보퀀트를 전격 공개하며 업계의 주목을 받고 있습니다. 이번 기술은 단순히 크기를 줄이는 것을 넘어 연산 구조 자체를 혁신적으로 재설계했습니다.

AI가 느려지는 진짜 범인 찾았다

우리가 쓰는 인공지능은 문맥을 기억하기 위해 엄청난 양의 데이터를 저장합니다. 이를 전문 용어로 KV 캐시라고 부르는데 데이터가 쌓일수록 시스템이 무거워집니다. 기존의 압축 방식은 데이터를 줄이는 과정에서 추가적인 정보가 필요했습니다. 이 때문에 실제 압축 효율이 떨어지는 한계가 명확하게 존재했습니다.

데이터를 둥글게 말아 크기를 줄이다

연구팀은 데이터를 바라보는 방식 자체를 좌표계로 변환하여 해결했습니다. 데이터를 반지름과 각도로 표현하는 극좌표계를 도입해 효율성을 극대화했습니다. 구글 리서치 발표에 따르면 이 방식을 통해 메모리 비용을 완전히 제거했습니다. 여기에 1비트만으로 오차를 보정하는 기술을 더해 정확도를 유지했습니다.

속도는 8배 빨라지고 비용은 뚝

성능 테스트 결과 엔비디아의 최신 칩에서 연산 속도가 8배나 빨라졌습니다. 메모리 사용량은 원본 대비 6배나 줄어드는 놀라운 수치를 기록했습니다. 이 기술은 구글의 인공지능 서비스인 제미나이의 성능을 높이는 데 쓰입니다. 향후 스마트폰 같은 기기에서도 고성능 AI를 가볍게 돌릴 수 있습니다. 한인수 교수는 이번 기술이 AI 서비스의 보편화를 앞당길 것이라고 설명했습니다. 인프라 비용을 줄이면서도 성능 손실이 없는 혁신적인 표준이 될 전망입니다.