기술/연구

“엔비디아보다 2배 빨라?” KAIST가 만든 AI 반도체 등장

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.02.05 13:37

기사 3줄 요약

1 KAIST, 엔비디아보다 2배 빠른 칩 개발
2 스스로 회로 바꾸는 AI 반도체 기술 적용
3 전력 소모 3분의 1로 줄여 효율성 입증

유튜브 추천 영상이 뜨는 속도가 답답했던 적이 한 번쯤은 있을 겁니다. 우리가 매일 사용하는 추천 시스템이나 내비게이션 최단 경로 탐색, 친구 추천 기능은 모두 복잡한 데이터 연결 관계를 분석하는 작업을 거칩니다. 이 과정이 빠르면 빠를수록 우리는 더 쾌적한 AI 서비스를 즐길 수 있습니다. 하지만 지금까지 이 속도를 높이는 데에는 큰 걸림돌이 있었습니다. 바로 데이터를 정리하는 '전처리' 과정이 너무 오래 걸린다는 점이었습니다. KAIST 연구팀이 이 문제를 해결하고 세계 최강으로 불리는 엔비디아 반도체보다 더 빠른 AI 반도체를 개발했다는 소식이 전해졌습니다.

엔비디아도 못 푼 '병목 현상' 해결

KAIST 정명수 교수 연구팀은 최근 '오토GNN'이라는 새로운 AI 반도체 기술을 개발했습니다. 연구팀은 AI 서비스가 느려지는 진짜 원인을 찾아냈습니다. 바로 AI가 추론을 시작하기 전 단계인 '그래프 전처리' 과정 때문이었습니다. 전체 계산 시간의 70%에서 많게는 90%까지 차지할 정도로 비중이 컸습니다. 기존에 우리가 쓰던 고성능 GPU는 그래픽 처리에 특화되어 있어 규칙적인 데이터 계산은 잘합니다. 하지만 친구 관계나 분자 구조처럼 불규칙하게 얽혀 있는 데이터를 정리하는 데에는 한계가 있었습니다. 마치 고속도로를 달리는 스포츠카를 데리고 좁고 꼬불꼬불한 골목길을 운전하게 시킨 것과 비슷합니다. 그래서 연구팀은 아예 반도체 내부 회로가 상황에 맞춰 변신하는 기술을 고안해냈습니다.

상황 따라 변신하는 '카멜레온' 반도체

이번에 개발된 '오토GNN'의 핵심은 '적응형 AI 가속기 기술'입니다. 이 기술은 들어오는 데이터의 구조에 따라 반도체 내부 회로를 실시간으로 바꿉니다. 데이터가 복잡하게 얽혀 있으면 그에 맞는 회로로, 단순하면 또 그에 맞는 회로로 스스로 변신하는 원리입니다. 연구팀은 이를 위해 반도체 안에 두 가지 특수 모듈을 심었습니다. 필요한 데이터만 쏙쏙 골라내는 모듈과 이를 정리해서 계산하는 모듈입니다. 데이터의 양이나 형태가 바뀔 때마다 가장 효율적인 모듈이 자동으로 작동합니다. 덕분에 메모리에서 데이터를 가져오는 과정에서 생기는 막힘 현상을 뻥 뚫어버렸습니다.

속도는 2배, 전기는 3배 절약

성능 테스트 결과는 매우 놀라웠습니다. KAIST에 따르면 오토GNN은 현재 널리 쓰이는 엔비디아의 고성능 GPU인 RTX 3090보다 처리 속도가 약 2.1배나 빨랐습니다. 일반 컴퓨터 CPU와 비교하면 무려 9배나 빠른 속도입니다. 더 대단한 점은 에너지 효율입니다. 속도는 빨라졌는데 전력 소모는 오히려 기존 GPU 대비 3.3배나 줄어들었습니다. 전기를 덜 먹으면서 일은 더 잘하는 셈입니다. 이 기술은 당장 유튜브 같은 추천 시스템이나 금융 사기 탐지, 신약 개발 등 복잡한 관계 분석이 필요한 분야에 바로 적용할 수 있다고 합니다. KAIST 정명수 교수는 이번 연구가 불규칙한 데이터를 효과적으로 처리하는 하드웨어를 구현했다는 점에서 의미가 크다고 설명했습니다. 이 기술이 상용화된다면 우리는 더 빠르고 똑똑한 AI 서비스를, 더 적은 전기료로 이용할 수 있게 될지도 모릅니다.