기술/연구

“엔비디아 게 섰거라” 칩에 AI 새기니 속도 73배 폭등

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.02.24 19:41

기사 3줄 요약

1 AI 모델을 칩에 직접 새겨 속도 73배 향상
2 엔비디아 대비 전력 10분의 1, 비용 20분의 1
3 단 24명이 400억 원으로 개발해 업계 주목

단 24명의 직원이 있는 작은 스타트업이 전 세계 AI 반도체 시장을 장악한 엔비디아에게 도전장을 내밀었습니다. 이들은 기존 방식과는 완전히 다른 차원의 기술을 들고 나왔는데, 성능 수치가 그야말로 충격적입니다. 우리가 흔히 쓰는 챗GPT 같은 AI 모델을 돌리려면 엄청난 전기를 먹는 거대한 데이터센터가 필요합니다. 그런데 이 회사는 칩 하나에 AI를 통째로 심어버리는 방식으로 속도는 73배 높이고 비용은 확 낮췄다고 합니다. 과연 이 기술이 AI 시장의 판도를 어떻게 뒤집을지 지금부터 자세히 알아보겠습니다.

소프트웨어를 하드웨어로 박제하다

캐나다의 스타트업 '탈라스'가 공개한 기술의 핵심은 아주 단순하면서도 파격적입니다. 보통은 컴퓨터 칩 위에 AI 소프트웨어를 깔아서 실행하는데, 탈라스는 아예 AI 모델 자체를 칩 회로로 만들어버렸습니다. 이것을 '하드코어 모델'이라고 부르는데, 쉽게 말해 음악을 들을 때 MP3 파일을 다운받아 재생하는 것이 아니라 악기 자체를 새로 만드는 것과 비슷합니다. 특정 곡을 연주하기 위해 완벽하게 조율된 악기처럼, 특정 AI 모델만 전용으로 돌리는 칩을 만든 것입니다. 이렇게 하면 복잡한 연산 과정을 거칠 필요 없이 전기가 통하면 바로 답이 나오는 구조가 됩니다. 탈라스의 설명에 따르면, 메모리와 연산 장치를 하나로 합쳐서 데이터가 오가는 시간을 획기적으로 줄였다고 합니다.

엔비디아보다 73배 빠른 속도

탈라스가 공개한 첫 번째 제품 '하드와이어드 라마 3.1 8B'의 성능은 기존 상식을 뛰어넘습니다. 업계 보고에 따르면, 현재 가장 좋다는 엔비디아의 H200 칩은 1초에 약 230개의 단어(토큰)를 만들어냅니다. 그런데 탈라스의 칩은 1초에 무려 1만 6960개의 단어를 쏟아냈습니다. 단순 계산으로도 약 73배나 빠른 속도인데, 심지어 전력 소비는 10분의 1 수준밖에 되지 않습니다. 비용 측면에서도 엄청난데, 기존 방식보다 시스템을 구축하는 비용이 20분의 1로 줄어든다고 합니다. 지금처럼 비싼 GPU를 사려고 줄을 서지 않아도 훨씬 저렴한 가격에 초고속 AI를 쓸 수 있는 길이 열린 셈입니다.

400억으로 만든 작은 기적

더 놀라운 점은 이 기술을 개발하는 데 들어간 인력과 자본의 규모입니다. 보통 반도체 하나를 새로 만들려면 수조 원의 돈과 수천 명의 인력이 필요하다고 생각합니다. 하지만 탈라스는 단 24명의 팀원과 약 400억 원의 투자금만으로 이 제품을 완성했다고 밝혔습니다. 이들은 무작정 데이터센터를 늘리고 전기를 더 쓰는 방식은 지속 가능하지 않다고 봤습니다. 대신 칩의 설계 구조 자체를 바꿔서 효율성을 극대화하는 '질적 도약'을 선택했습니다. 물론 칩에 모델을 새겨버리면 모델이 업데이트될 때마다 칩을 새로 만들어야 한다는 단점이 있기는 합니다. 하지만 탈라스는 약 두 달이면 새로운 칩을 만들 수 있는 기술력을 확보했다고 자신합니다. 앞으로 이 기술이 상용화되면 우리는 전기세 걱정 없이 AI와 실시간으로 대화하는 세상을 더 빨리 만나게 될 것입니다.