산업/비즈니스

AI 도입 후 ‘성과 제로’ 피하려면? 스켈터랩스가 밝힌 4가지 치명적 실수

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.26 16:55

기사 3줄 요약

1 스켈터랩스, 생성형 AI 성공 도입 위한 4가지 핵심 과제 제시
2 인프라 검증, 데이터 구조화, 멘탈 모델 이식, 시스템 연동 중요
3 AI 실질적 활용 역량이 기업 핵심 경쟁력으로 부상

요즘 기업들 사이에서 생성형 AI 도입 열풍이 거셉니다. 하지만 장밋빛 미래만 기대했다간 큰 코 다치기 쉽습니다. 국내 AI 전문기업 스켈터랩스가 최근 ‘AI 인 액션’ 포럼에서 생성형 AI의 성공적인 실전 도입을 위한 4가지 핵심 과제를 제시했습니다. 단순 기술 검증(PoC)의 성공이 곧바로 현장 안착으로 이어지지 않는다는 것입니다. 마치 신기한 마술처럼 보였던 AI가 실제로는 까다로운 관리가 필요한 존재임이 드러난 셈입니다. 스켈터랩스는 기업들이 AI를 제대로 활용하기 위해 반드시 넘어야 할 산이 있다고 강조합니다. 이 과제들을 해결하지 못하면, AI 도입은 밑 빠진 독에 물 붓기가 될 수 있습니다.

AI, 테스트 환경에선 잘 되는데 실전에선 왜 버벅거릴까

첫 번째 과제는 ‘인프라 현실 검증’입니다. 개념 검증(PoC) 단계에서는 잘 돌아가던 AI 모델이 실제 운영 환경에서는 사용자가 몰리거나 처리할 데이터가 많아지면 성능이 뚝 떨어지는 경우가 많습니다. 마치 작은 운동장에서 혼자 공을 차는 것과 월드컵 경기장에서 수만 관중 앞에서 뛰는 것이 다른 이치입니다. 실제 사용 환경을 고려한 인프라 점검이 필수적입니다.

데이터, 그냥 넣어주면 AI가 다 알아서 해줄까

두 번째는 ‘데이터 구조화’ 문제입니다. 생성형 AI가 가끔 이상한 답을 내놓는 ‘환각 현상’을 줄이기 위해 검색 증강 생성(RAG) 기술을 많이 씁니다. 하지만 AI가 이해하기 어려운 데이터를 주면 오히려 오류를 더 빠르게 퍼뜨릴 수 있습니다. AI가 문맥을 제대로 이해하고 정확한 정보를 제공하려면, 데이터를 미리 깔끔하게 정리하고 구조화하는 작업이 반드시 먼저 이루어져야 합니다. 마치 요리 전에 재료를 다듬는 것과 같습니다.

AI도 신입사원처럼 가르쳐야 한다고

세 번째 과제는 ‘멘탈 모델 이식’입니다. AI가 우리 회사의 판단 기준이나 선호도를 학습해야 한다는 의미입니다. 신입사원이 회사에 들어와 업무 방식을 배우는 것처럼 AI도 가르침이 필요합니다. 스켈터랩스는 인간이 평가한 데이터를 기반으로 AI가 더 나은 답을 학습하도록 하는 기술을 실험 중입니다. 이를 통해 AI가 조직의 암묵적인 규칙까지 이해하도록 만드는 것입니다.

AI, 단순 답변 봇을 넘어 진짜 일꾼이 되려면

마지막 네 번째는 ‘시스템 연동 방식의 전환’입니다. AI가 단순히 질문에 답하는 것을 넘어, 회사 내부의 중요한 시스템(ERP, 그룹웨어 등)과 유기적으로 연결되어야 진짜 생산성을 높일 수 있습니다. 스켈터랩스는 이를 위해 AI가 시스템 기능을 이해하고 스스로 필요한 기능을 호출할 수 있는 ‘모델 컨텍스트 프로토콜(MCP)’이라는 개념을 소개했습니다. 기존 방식보다 훨씬 유연하게 AI를 활용할 수 있는 방법입니다. 결국, 생성형 AI를 성공적으로 도입하고 활용하는 것은 단순한 기술 도입을 넘어섭니다. 스켈터랩스의 변규홍 최고AI책임자(CAIO)는 “AI를 실제 업무에 쓸 수 있게 만드는 역량이야말로 기업의 핵심 경쟁력이 될 것”이라고 강조했습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr