산업/비즈니스

회사 AI 관리 '빨간불'? 통제 못 하면 큰일… 해결책 나왔다!

댓글 0 · 저장 0 2025.04.29 02:20

기사 3줄 요약

1 기업 내 AI 에이전트 확산, 통제 부재시 위험 증폭.
2 데이터이쿠, AI 에이전트 관리 플랫폼으로 해법 제시.
3 코딩 없이도 개발, 강력한 통제로 안전한 AI 활용 지원.

회사에서 쓰는 인공지능(AI) 비서들이 점점 늘어나면서 관리가 안 돼 골치 아픈 상황이 벌어지고 있습니다. 데이터 유출이나 잘못된 정보 확산 같은 위험이 커지자, 프랑스 AI 기업 데이터이쿠(Dataiku)가 이 문제를 해결할 새로운 플랫폼을 내놓았습니다. 이 플랫폼은 AI 에이전트, 즉 AI 비서를 만들고 관리하는 과정을 하나로 묶어 기업들이 AI를 안전하고 효과적으로 쓰도록 돕는 것을 목표로 합니다. 데이터이쿠 CEO 플로리안 두에토는 "통제되지 않은 AI 에이전트 확산을 막는 것이 중요하다"고 강조했습니다.

너도나도 AI 비서, 근데 관리 안 돼?

최근 많은 기업들이 업무 효율을 높이기 위해 AI 에이전트를 도입하고 있습니다. 마케팅 보고서 작성, 고객 문의 자동 응답, 프로젝트 승인 자동화 등 활용 분야도 다양합니다. 하지만 제대로 된 관리 시스템 없이 여기저기서 AI 에이전트를 마구 사용하면 문제가 생길 수 있습니다. 마치 정해진 규칙 없이 학생들이 마구 뛰어노는 운동장처럼, 회사 데이터가 유출되거나, AI가 잘못된 정보를 만들어 퍼뜨리거나, 보안에 구멍이 뚫릴 위험이 커집니다. 또 어떤 AI를 누가 어떻게 사용하는지 파악하기 어려워 비용 관리도 힘들어집니다.

코딩 몰라도 OK? 쉬운 개발 + 강력 통제!

데이터이쿠 플랫폼의 가장 큰 특징은 AI 개발 경험이 없는 비전문가와 숙련된 개발자 모두를 위한 개발 환경을 제공한다는 점입니다. '비주얼 에이전트(Visual Agents)'는 코딩을 전혀 몰라도 됩니다. 마치 레고 블록을 조립하듯, 미리 만들어진 기능을 끌어다 놓는 방식으로 간단한 AI 비서를 만들 수 있습니다. 반면 '코드 에이전트(Code Agents)'는 파이썬 같은 프로그래밍 언어를 사용해 더 복잡하고 강력한 AI 비서를 만들고 싶은 개발자들을 위한 공간입니다. 금융 사기 탐지 시스템이나 개인 맞춤 추천 엔진 같은 고도화된 AI 개발이 가능합니다. 중요한 것은 이 두 가지 방식 모두 같은 플랫폼 안에서 이루어져 서로 다른 부서나 팀원들이 협업하기 쉽다는 점입니다.

그래서 안전하긴 해? 꼼꼼한 관리 시스템

데이터이쿠는 단순히 AI를 쉽게 만드는 데 그치지 않고, 강력한 관리 및 통제(거버넌스) 기능을 갖췄습니다. 'LLM 메시(LLM Mesh)'라는 기능은 OpenAI, 앤트로픽, 구글 등 다양한 회사의 AI 모델들을 한 곳에서 관리하고, 필요에 따라 가장 적합한 모델을 골라 쓸 수 있게 해줍니다. 특정 회사 기술에 얽매이지 않는 유연성이 장점입니다. '데이터이쿠 세이프 가드(Dataiku Safe Guard)'는 AI 비서가 유해하거나 부적절한 내용(욕설, 개인정보 등)을 만들지 못하도록 막는 안전장치 역할을 합니다. 회사의 가치나 법규에 어긋나는 답변을 하지 않도록 미리 규칙을 정해둘 수 있습니다. 또한 '생성형 AI 레지스트리(Generative AI Registry)'는 회사 내 모든 AI 에이전트 사용 계획을 한 곳에서 검토하고 승인하는 시스템입니다. AI 도입 전에 비즈니스 가치와 위험성을 평가해 무분별한 도입을 막습니다. 이 외에도 AI의 결정 과정을 추적하는 '트레이스 익스플로러(Trace Explorer)', 실시간 성능을 감시하는 평가 기능 등 꼼꼼한 관리 도구를 제공합니다.

모델	장점	단점	주요 사용 사례
OpenAI GPT-4	높은 정확도, 방대한 지식	비교적 비쌈, 느린 응답 속도	복잡한 추론, 콘텐츠 생성
앤트로픽 클로드	강력한 윤리 가이드라인, 민감 주제에 좋음	제한적 사용, GPT-4보다 범용성 낮음	윤리적 AI 응용, 콘텐츠 검토
미스트랄 AI	비용 효율적, 빠른 응답 속도	GPT-4 대비 낮은 정확도, 제한된 지식	간단한 작업, 빠른 응답
딥식(DeepSeek)	코드 생성 특화, 높은 효율	코딩 작업 한정, 일반 NLP 부적합	코드 생성, 소프트웨어 개발
구글 제미나이	구글 서비스 연동, 멀티모달 기능	제한적 사용, 개발 진행 중	멀티모달 응용, 구글 생태계 연동

AI 기술 발전 속도는 놀랍지만, 그만큼 중요한 것은 이 강력한 도구를 어떻게 안전하고 책임감 있게 사용할지 고민하는 것입니다. 데이터이쿠의 플랫폼은 그런 고민에 대한 하나의 해답을 제시하며, 기업들이 AI 시대의 혼란 속에서 길을 잃지 않도록 돕는 나침반이 될 수 있을 것으로 보입니다. AI 기술 발전만큼 중요한 건, 그걸 안전하게 쓰는 시스템을 갖추는 일입니다.