기술/연구

“폰서 챗GPT 쌩쌩?” 구글, 8배 빠른 ‘터보퀀트’

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.04.11 03:00

기사 3줄 요약

1 구글 리서치와 KAIST 공동 연구팀 신기술 터보퀀트 공개
2 AI 메모리 사용량 6배 절감 및 연산 속도 8배 향상 성공
3 온디바이스 AI 시대 앞당길 핵심 압축 표준으로 기대

구글 리서치와 KAIST 공동 연구팀이 인공지능의 고질적인 메모리 문제를 해결한 새로운 알고리즘 터보퀀트를 공개했습니다. 이번 기술은 인공지능이 정보를 기억하는 공간을 6배 넘게 줄이면서도 연산 속도는 8배나 높였습니다. 이 인공지능 인프라 기술은 성능 저하 없이 모델을 가볍게 만들 수 있어 업계의 큰 주목을 받고 있습니다. 인공지능이 문맥을 기억하는 공간인 KV 캐시를 효율적으로 압축해 시스템이 느려지는 병목 현상을 잡았습니다.

AI의 기억력을 6배나 압축한 비결

공동 연구팀은 데이터를 바라보는 좌표계 자체를 완전히 바꿔서 메모리 낭비를 줄이는 데 성공했습니다. 기존에는 정보를 복잡한 직교 좌표로 저장했지만 터보퀀트는 이를 원형 구조인 극좌표계로 단순하게 재배치했습니다. 이 방식을 활용하면 데이터를 압축할 때 생기는 불필요한 추가 정보를 저장할 필요가 없어집니다. 덕분에 메모리 공간을 획기적으로 아끼면서도 성능은 그대로 유지할 수 있게 되었습니다.

KAIST 한인수 교수가 설계한 1비트의 마법

이번 연구에는 KAIST 한인수 교수가 참여해 압축 과정에서 발생하는 미세한 오차를 잡아내는 기술을 주도했습니다. 단 1비트의 정보만으로도 인공지능이 계산 실수를 하지 않도록 정밀하게 보정하는 장치를 완성했습니다. 엔비디아의 최신 칩에서 테스트한 결과 이전보다 연산 속도가 무려 8배나 빨라지는 성과를 거두었습니다. 인공지능 모델을 별도로 다시 학습시키지 않아도 즉시 적용할 수 있다는 점이 가장 큰 장점입니다.

더 빠르고 정확해진 데이터 검색 성능

터보퀀트는 단순한 압축을 넘어 수십억 개의 데이터 중에서 필요한 정보를 찾아내는 검색 능력도 향상시켰습니다. 기존 기술보다 높은 재현율을 기록하며 데이터 간의 유사도를 정확하게 유지하는 능력을 입증했습니다. 데이터를 압축했음에도 불구하고 검색 품질이 오히려 좋아진다는 점은 매우 놀라운 결과입니다. 대규모 데이터 환경에서도 빠르고 효율적인 검색 시스템을 구축할 수 있는 길이 열린 셈입니다.

내 폰 안으로 들어오는 더 똑똑한 인공지능

터보퀀트 기술은 앞으로 스마트폰처럼 작은 기기에서도 고성능 인공지능을 부드럽게 사용하는 데 핵심적인 역할을 할 전망입니다. 인공지능 서비스 운영 비용을 낮춰 인공지능 기술의 대중화를 앞당기는 촉매제가 될 것으로 보입니다. 이론적 완성도와 실무적 실용성을 모두 갖춘 이번 성과는 인공지능 기술의 민주화를 가속화할 잠재력을 지니고 있습니다. 기술의 발전에 따라 우리가 일상에서 인공지능을 만나는 방식은 더욱 편리해질 것입니다.