기술/연구

“이제는 6배 더 가볍다” 구글과 카이스트가 공개한 AI 혁신 기술

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.04.15 04:18

기사 3줄 요약

1 구글과 카이스트 인공지능 메모리 6배 압축 기술 공개
2 터보퀀트 알고리즘으로 정확도 유지하며 연산 속도 8배 향상
3 메모리 병목 현상 해결로 인공지능 서비스 대중화 기대

인공지능이 발전하면서 컴퓨터의 기억 장치인 메모리가 부족해지는 현상이 심각한 문제로 떠오르고 있습니다. 구글 리서치와 카이스트 한인수 교수 공동 연구팀은 이 문제를 해결하기 위한 새로운 알고리즘 터보퀀트를 발표했습니다. 이번 기술은 대형언어모델이 문맥을 기억하는 공간을 기존보다 6배나 압축하면서도 성능을 유지하는 데 성공했습니다. 복잡한 계산 과정을 수학적으로 다시 설계하여 시스템에 가해지는 부담을 획기적으로 줄인 것이 핵심입니다. 연구팀은 별도의 추가 학습 없이도 바로 적용할 수 있는 방식을 도입하여 활용성을 높였습니다. 인공지능 인프라의 효율을 극대화할 수 있는 새로운 전환점이 마련되었다는 평가를 받고 있습니다.

인공지능 메모리 병목 현상 해결할까

터보퀀트의 가장 큰 특징은 데이터를 저장하고 처리하는 방식 자체를 완전히 바꾼 점에 있습니다. 기존 방식은 데이터를 바둑판 모양의 좌표로 저장하여 관리하는 데 많은 메모리가 필요했습니다. 폴라퀀트라는 기술은 데이터를 거리와 방향을 기준으로 하는 새로운 좌표계로 변환하여 저장합니다. 이러한 방식은 데이터의 구조를 더 단순하게 만들어 불필요하게 낭비되는 메모리 공간을 없애줍니다. 기존에 매번 계산해야 했던 복잡한 수치들을 저장할 필요가 없어지면서 압축 효율이 극대화되었습니다. 데이터가 특정 구조 위에 모이는 성질을 이용해 가장 효율적인 형태로 재구성한 결과입니다.

한인수 교수팀이 만든 오차 보정 기술

카이스트 한인수 교수가 주도하여 개발한 1비트 오차 보정 기술인 QJL 기법도 주목할 만한 성과입니다. 데이터를 압축하는 과정에서 생길 수 있는 미세한 오류를 아주 적은 정보만으로 정확하게 잡아냅니다. 일반적으로 정확도를 높이려면 더 많은 메모리가 필요하지만 이 기술은 최소한의 정보만 사용합니다. 이를 통해 인공지능 모델이 문장의 맥락을 파악할 때 발생하는 왜곡을 효과적으로 차단할 수 있습니다. 압축 효율과 정확도라는 두 마리 토끼를 동시에 잡으면서 인공지능 연산의 새로운 표준을 제시했습니다. 수학적인 정밀함을 바탕으로 모델의 지능을 원본 수준으로 유지하는 데 성공한 것입니다.

실제 테스트에서 증명된 압도적 성능

연구팀이 발표한 자료에 따르면 터보퀀트를 적용했을 때 연산 속도가 기존보다 최대 8배까지 빨라졌습니다. 엔비디아의 최신 그래픽 장치 환경에서 실험한 결과 실제 서비스에 즉시 적용 가능한 수준임을 확인했습니다. 대규모 언어 모델인 젬마와 미스트랄을 대상으로 진행한 테스트에서도 압도적인 성능 지표를 기록했습니다. 긴 문장을 처리할 때 발생하는 메모리 병목 현상을 근본적으로 해결할 수 있음을 증명했습니다. 또한 수십억 개의 데이터 중에서 원하는 정보를 찾는 검색 성능도 기존 방식보다 더 정밀해졌습니다. 압축을 한 상태에서도 데이터 간의 관계를 정확하게 유지하기 때문에 검색 품질이 오히려 향상되었습니다.

인공지능 대중화 앞당길 새로운 촉매제

효율성이 높아지면 인공지능 서비스의 가격이 낮아져 더 많은 사람이 혜택을 누릴 수 있게 됩니다. 스마트폰과 같은 개인 기기에서도 고성능 인공지능을 더 부드럽게 사용하는 환경이 만들어질 전망입니다. 이번 연구 결과는 오는 4월 브라질에서 열리는 세계적인 인공지능 학술대회에서 정식으로 발표될 예정입니다. 구글의 인공지능 서비스인 제미나이의 성능을 높이는 데에도 핵심적인 역할을 할 것으로 보입니다. 국내 학계의 연구 역량이 글로벌 빅테크 기업의 핵심 기술 설계에 직접 기여했다는 점에서도 의미가 큽니다. 앞으로 터보퀀트는 다양한 산업 분야에서 인공지능 대중화를 앞당기는 중요한 촉매제가 될 것입니다.