기술/연구

"거대 AI 시대 저무나?" 기업 맞춤형 AI '수트라 D3' 뭐길래?

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.05.27 16:12

기사 3줄 요약

1 투플랫폼, 기업 맞춤형 AI '수트라 D3' 공개
2 지식 증류로 LLM 성능 유지하며 모델 경량화
3 데이터 부족 산업, 적은 비용으로 AI 도입 기대

요즘 ChatGPT 같은 똑똑한 AI 때문에 많은 이야기가 나오고 있습니다. 그런데 이제는 이런 커다란 범용 AI 말고, 각 회사 상황에 딱 맞는 ‘우리 회사 전용 AI’가 점점 중요해질 것이라는 전망이 나왔습니다. AI 전문 기업 투플랫폼이 바로 이런 흐름에 발맞춰 ‘수트라 D3’라는 새로운 기술의 틀을 공개했습니다. 투플랫폼은 이 ‘수트라 D3’ 프레임워크를 이용하면 기업들이 자신들의 필요에 꼭 맞는 소형 인공지능 모델을 빠르고 저렴하게 만들 수 있다고 밝혔습니다. 이는 마치 거대한 도서관의 모든 책을 다 빌리는 대신, 나에게 필요한 핵심 요약본만 쏙 뽑아보는 것과 비슷합니다. 앞으로 기업들이 AI를 도입하고 활용하는 방식에 큰 변화를 가져올 것으로 보입니다.

그래서 '지식 증류'가 정확히 뭐야?

수트라 D3의 핵심 기술은 ‘지식 증류(Knowledge Distillation)’라고 합니다. 조금 어렵게 들릴 수 있지만, 쉽게 말해 아주 똑똑한 선생님 AI(대형언어모델, LLM)가 가진 방대한 지식과 능력을 학생 AI(소형모델)에게 효과적으로 가르쳐주는 과정입니다. 이렇게 하면 학생 AI는 선생님 AI의 핵심 능력은 배우면서도 몸집은 훨씬 가벼워지고, 특정 분야에 더 특화될 수 있습니다. 예를 들어, 거대한 선생님 AI가 세상의 모든 동물에 대해 알고 있다면, 지식 증류를 거친 학생 AI는 반려동물에 대해서만 아주 깊이 있는 전문가가 될 수 있는 셈입니다. 덕분에 학생 AI는 더 적은 데이터와 자원으로도 특정 작업에서 뛰어난 성능을 발휘할 수 있게 됩니다. 이것이 바로 지식 증류 기술의 매력입니다.

기업들은 이걸로 뭘 할 수 있는데?

기업 입장에서는 좋은 점이 한두 가지가 아닙니다. 우선, 거대한 AI를 사용하는 것보다 훨씬 적은 비용으로 우리 회사에 필요한 AI를 만들고 운영할 수 있습니다. 또한, 개발 시간도 크게 줄일 수 있어 빠르게 변화하는 시장에 민첩하게 대응할 수 있습니다. 투플랫폼은 특히 데이터가 부족하거나 민감한 정보를 다루는 산업군에 수트라 D3가 유용하다고 설명합니다. 예를 들어 병원에서는 실제 환자의 의료 기록 대신, 똑똑한 AI가 만들어낸 가상의 환자 기록으로 학습한 모델을 활용해 다국어 의료 기록 분석 같은 AI 솔루션을 구축할 수 있습니다. 이렇게 하면 모델 크기도 작아져서 회사 내부 서버(온프레미스)나 개별 기기(엣지 환경)에서도 AI를 돌릴 수 있게 되어 비용 부담을 더욱 낮출 수 있습니다.

앞으로 AI, 이렇게 바뀐다고?

투플랫폼의 프라나브 미스트리 대표는 “이제 모든 분야에 두루 쓰이는 범용 AI의 시대가 지나고, 실제 업무에 최적화된 가벼운 모델로 AI 트렌드가 옮겨가고 있다”고 말했습니다. 그는 “지식 증류를 거친 모델은 가볍고, 비용 효율적이며, 회사 내부 데이터에 특화될 수 있어 기업 환경에 가장 적합한 형태”라고 강조했습니다. 앞으로 수트라 D3가 기업들의 ‘AI 전환(AX)’을 돕는 최적의 파트너가 될 수 있을 것이라는 기대감도 내비쳤습니다. 이처럼 수트라 D3 프레임워크는 기업들이 각자의 상황과 필요에 맞춰 AI를 보다 쉽게 도입하고 활용할 수 있는 새로운 길을 열어줄 것으로 보입니다. 앞으로 어떤 기업들이 이 기술을 활용해 혁신적인 서비스를 선보일지 주목됩니다. AI 기술이 점점 더 우리 생활과 업무 환경 깊숙이 들어오고 있음을 실감하게 됩니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr