기술/연구

“구글, AI 속도 8배 키웠다” 한국 교수 참여한 터보퀀트 전격 공개

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.04.08 16:57

기사 3줄 요약

1 구글·KAIST, AI 메모리 6배 압축 기술 터보퀀트 공개
2 정확도 손실 없이 연산 속도 8배 향상 및 효율 극대화
3 AI 서비스 비용 절감과 온디바이스 기술 대중화 기대

구글 리서치와 카이스트(KAIST) 한인수 교수팀이 인공지능의 고질적인 문제를 해결했습니다. 이들은 대규모 언어 모델이 작동할 때 발생하는 메모리 과부하를 줄이는 새로운 알고리즘을 발표했습니다. 터보퀀트라는 이름의 이 기술은 인공지능이 문맥을 기억하는 공간을 6배 이상 압축합니다. 그러면서도 인공지능의 답변 정확도는 원본 모델과 동일하게 유지하는 데 성공했습니다.

AI 메모리 부족 문제 해결될까

요즘 인공지능은 긴 문장을 읽을 때 메모리를 엄청나게 많이 사용합니다. 이 때문에 시스템이 느려지거나 작동이 멈추는 병목 현상이 자주 발생합니다. 데이터가 쌓일수록 메모리 비용이 기하급수적으로 늘어나는 것이 업계의 큰 고민이었습니다. 이번 기술은 이런 숨은 비용을 수학적으로 제거하여 효율을 높였습니다.

복잡한 수학으로 데이터 다이어트

연구팀은 데이터를 좌표로 표현하는 방식 자체를 완전히 바꿨습니다. 기존의 복잡한 방식 대신 거리와 방향만을 사용하는 새로운 체계를 도입했습니다. 여기에 한인수 교수가 주도한 특별한 보정 기술이 더해졌습니다. 단 1비트의 정보만으로 압축 과정에서 생기는 미세한 오차를 완벽하게 잡아냅니다. 이 과정은 별도의 추가 학습이 필요 없어 어떤 인공지능 모델에도 바로 적용할 수 있습니다. 전문가들은 인공지능 인프라의 판도를 바꿀 혁신적인 기술이라고 평가합니다.

체감 속도와 검색 성능의 변화

실제 테스트 결과 연산 속도가 기존보다 최대 8배나 빨라졌습니다. 엔비디아의 최신 그래픽 장치에서 실행했을 때 눈에 띄는 성능 향상을 기록했습니다. 정보를 찾는 검색 기능에서도 이전 방식들보다 훨씬 정확한 결과를 보여줬습니다. 압축을 심하게 했음에도 데이터 사이의 관계를 정확하게 유지했기 때문입니다. 덕분에 방대한 데이터를 처리하는 기업들은 운영 비용을 획기적으로 줄일 수 있습니다. 더 빠르고 정확한 인공지능 서비스를 더 저렴하게 이용할 길이 열린 셈입니다.

우리 삶에 어떤 영향을 줄까

기술의 효율이 좋아지면 인공지능 서비스의 이용 가격이 자연스럽게 낮아집니다. 이는 더 많은 사람이 고성능 인공지능을 일상에서 누리는 계기가 될 것입니다. 특히 스마트폰이나 노트북 자체에서 작동하는 온디바이스 인공지능의 발전이 기대됩니다. 무거운 프로그램을 구름 위 서버를 거치지 않고도 내 기기에서 바로 돌릴 수 있습니다. 이번 연구 결과는 다가오는 4월과 5월에 열리는 세계적인 인공지능 학술대회에서 발표될 예정입니다. 한국의 연구진이 세계적인 기술의 중심에 서 있다는 점도 주목할 부분입니다.