산업/비즈니스

“28조원 기술 탑재” 엔비디아, AI 추론 칩으로 독주 굳히기

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.03.01 12:43

기사 3줄 요약

1 엔비디아, 그로크 기술 품은 추론 칩 공개
2 학습 넘어 추론으로, AI 시장 판도 변화
3 오픈AI와 43조 동맹, 코딩 AI 혁신 예고

AI가 공부만 하던 시대는 끝났습니다. 이제는 배운 것을 써먹는 ‘실전’의 시대가 왔습니다. 엔비디아가 이 거대한 변화의 파도에 올라타기 위해 칼을 빼 들었습니다. 그동안 AI 시장을 지배했던 엔비디아가 이번엔 ‘추론(Inference)’ 시장까지 집어삼키려 합니다. 오는 3월 열리는 개발자 컨퍼런스 ‘GTC’에서 그 실체가 드러날 예정입니다.

공부 끝난 AI, 이젠 일할 시간

지금까지 AI 시장은 데이터를 학습시키는 ‘훈련’이 중심이었습니다. 엄청난 데이터를 읽고 배우는 과정이 중요했기 때문입니다. 하지만 최근 흐름이 완전히 바뀌었습니다. 기업들이 AI를 고객 응대나 코딩 작성 같은 실제 업무에 투입하기 시작했습니다. 이 과정에서 필요한 것이 바로 ‘추론’ 능력입니다. 학습된 AI가 사용자의 질문에 빠르게 대답하고 결과를 내놓는 능력을 말합니다. 이제는 누가 더 똑똑하게 배우느냐보다, 누가 더 빠르고 싸게 대답하느냐가 중요해진 것입니다.

28조 원짜리 기술의 정체

엔비디아는 이 시장을 선점하기 위해 지난해 말 스타트업 ‘그로크(Groq)’의 기술과 인력을 흡수했습니다. 무려 200억 달러, 우리 돈으로 약 28조 원에 달하는 가치입니다. 그로크는 기존 반도체와 다른 설계 방식을 사용하여 언어 처리 속도를 획기적으로 높인 기술을 가지고 있습니다. 엔비디아는 이 기술을 자사의 새로운 칩에 녹여냈습니다. 기존 칩보다 훨씬 빠르면서도 전력은 적게 쓰는 ‘괴물 칩’의 탄생을 예고한 셈입니다. 이는 단순히 칩 하나를 더 파는 문제가 아닙니다. AI 서비스 비용을 획기적으로 낮춰 시장의 판도를 바꾸겠다는 전략입니다.

오픈AI와의 강력한 동맹

이 새로운 칩의 첫 번째 핵심 고객은 챗GPT를 만든 ‘오픈AI’가 될 전망입니다. 오픈AI는 최근 엔비디아로부터 약 43조 원 규모의 투자를 유치하며 끈끈한 관계를 과시했습니다. 특히 코딩을 도와주는 AI 도구인 ‘코덱스(Codex)’에 이 신형 칩을 적용할 계획입니다. 코딩은 AI가 돈을 벌어다 주는 가장 확실한 시장 중 하나입니다. 오픈AI는 엔비디아의 새 칩을 통해 서비스 속도를 높이고 운영 비용은 낮출 것으로 보입니다. 물론 경쟁자들도 가만히 있지는 않습니다. 아마존이나 구글 같은 빅테크 기업들도 자체 칩을 개발하며 엔비디아를 추격하고 있습니다. 하지만 엔비디아는 이번 신제품으로 ‘추론 시장’에서도 압도적인 1위 자리를 지키겠다는 의지를 분명히 했습니다. 전문가들에 따르면 이번 GTC 행사는 엔비디아가 단순한 하드웨어 기업을 넘어 AI 서비스의 효율성까지 책임지는 플랫폼 기업으로 진화했음을 증명하는 자리가 될 것입니다.