산업/비즈니스

엔비디아 또 일냈다? AI 직원이 스스로 학습해 40% 똑똑해져

댓글 0 · 저장 0 2025.04.25 10:52

기사 3줄 요약

1 엔비디아, AI 직원 만드는 NeMo 플랫폼 공개
2 '데이터 먹고' AI 스스로 학습, 성능 계속 개선
3 AT&T 등 기업, 도입 후 정확도 40% 향상

엔비디아가 게임 그래픽카드만 만드는 줄 알았다면 오산입니다. 이제는 기업들이 쓸 '똑똑한 AI 직원'을 아주 쉽게 만들고, 심지어 이 AI가 스스로 계속 똑똑해지도록 돕는 새로운 기술을 선보였습니다. 바로 '엔비디아 NeMo 마이크로서비스' 이야기입니다. 이 기술은 기업들이 마치 레고 블록을 조립하듯, 필요한 AI 기능을 골라 챗봇이나 업무 보조 AI 같은 'AI 직원(에이전트)'을 뚝딱 만들 수 있게 합니다. 한번 만들면 끝이 아니라, AI가 일하면서 얻는 정보나 사용자 피드백을 바탕으로 스스로 학습하고 발전하는 '데이터 플라이휠' 개념이 핵심입니다. 마치 팽이가 계속 돌면서 힘을 얻는 것처럼, AI 성능이 저절로 계속 좋아지는 셈입니다.

엔비디아, AI 직원 만드는 '레고' 내놨다고?

NeMo 마이크로서비스는 여러 개의 작은 기능 블록들로 이루어져 있습니다. 기업은 필요한 블록만 가져다 쓰면 됩니다. 예를 들어 'NeMo Customizer'는 AI에게 우리 회사 데이터만 따로 가르쳐서 맞춤형 AI를 만드는 기능입니다. 마치 AI에게 딱 맞는 옷을 입히는 것과 같습니다. 'NeMo Evaluator'는 만들어진 AI가 얼마나 똑똑한지 시험을 보는 기능입니다. 점수가 낮으면 어떤 부분을 더 공부시켜야 할지 알려줍니다. 'NeMo Guardrails'는 AI가 이상한 말이나 위험한 행동을 하지 않도록 안전 규칙을 가르치는 선생님 역할을 합니다. 'NeMo Retriever'는 AI가 회사 내부 자료나 인터넷에서 필요한 정보를 잽싸게 찾아오도록 돕습니다. 마지막으로 'NeMo Curator'는 AI가 학습할 데이터를 깨끗하게 정리하고 중복된 내용을 걸러주는 데이터 청소부입니다.

스스로 똑똑해지는 비결, '데이터 플라이휠'이 뭐길래?

NeMo의 가장 특별한 점은 바로 '데이터 플라이휠'입니다. 이건 AI가 단순히 주어진 명령만 수행하는 게 아니라, 자기가 일한 결과나 사용자의 반응 같은 실제 데이터를 다시 '먹고' 스스로 배우는 순환 구조를 의미합니다. 예를 들어 고객 상담 AI가 답변을 했는데, 고객이 '만족스럽다'고 피드백을 주면 AI는 '아, 이런 답변이 좋구나' 하고 배웁니다. 반대로 고객이 '틀린 정보다'라고 지적하면, AI는 그 내용을 학습해서 다음엔 더 정확한 답변을 하려고 노력합니다. 이렇게 실제 업무 데이터가 계속 AI에게 흘러 들어가면서, AI는 시간이 지날수록 점점 더 똑똑해지고 일도 더 잘하게 됩니다. 마치 굴러가는 바퀴처럼 AI 성능이 계속해서 저절로 향상되는 것입니다.

진짜 효과 있나? 기업들 써보니 "대박"

이미 여러 글로벌 기업들이 NeMo를 도입해서 놀라운 성과를 내고 있습니다. 미국의 통신사 AT&T는 NeMo로 고객 서비스 AI를 맞춤 교육했더니, 정확도가 무려 40%나 향상되었다고 합니다. 덕분에 고객에게 더 정확한 정보를 제공하고, 사기 전화 같은 문제도 더 잘 잡아낼 수 있게 되었습니다. 세계적인 IT 기업 시스코(Cisco)는 개발자들이 코딩하는 것을 도와주는 AI 비서를 NeMo로 만들었는데, 응답 속도가 10배나 빨라지고, AI가 엉뚱한 도구를 추천하는 오류는 40%나 줄었다고 합니다. 개발자들의 업무 효율이 엄청나게 올라간 것입니다. 금융 정보 회사 나스닥(Nasdaq)도 NeMo를 활용해 검색 시스템의 정확도와 속도를 30% 높이고 비용까지 절감했습니다.

그래서 앞으로 어떻게 되는 건데?

엔비디아 NeMo는 기업들이 AI를 더 쉽고 효과적으로 도입하도록 돕는 강력한 도구입니다. 특히 AI가 스스로 학습하며 발전하는 '데이터 플라이휠' 개념은 AI 활용의 새로운 가능성을 보여줍니다. 앞으로 더 많은 기업들이 NeMo 같은 플랫폼을 이용해 업무 생산성을 높이고, 우리 주변에는 다양한 AI 직원들이 등장하게 될 것으로 보입니다. 물론 AI를 만드는 데 필요한 기술 전문성이나 비싼 그래픽카드(GPU) 비용, 데이터 보안 같은 문제점도 고려해야 합니다. 엔비디아는 이런 점들을 보완하기 위해 다양한 기업들과 협력하고 있으며, 기업이 직접 서버를 구축(온프레미스)하거나 클라우드 서비스를 이용하는 등 여러 선택지를 제공하고 있습니다. 기업들이 NeMo를 사용하기 위한 기술적 요구 사항은 다음과 같습니다.

Technical Requirements	Description
Kubernetes Cluster	Version 1.20 or later for container orchestration.
NVIDIA GPUs	Essential for accelerated AI processing.
NVIDIA AI Enterprise License	Required for accessing and deploying NeMo Microservices.
Helm Package Manager	Facilitates streamlined deployment and management.
Persistent Storage	For reliable data and model storage.

NeMo의 등장은 AI 기술이 단순한 연구 단계를 넘어, 실제 기업 환경에서 강력한 생산성 도구로 자리 잡고 있음을 보여주는 중요한 신호입니다.