산업/비즈니스

“AI 막 만들다간 큰일 난다” 통제 불능 AI 막을 유일한 열쇠 등장

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.04 05:42

기사 3줄 요약

1 프랑스 AI 기업, 생성보다 ‘AI 통제’ 중요성 경고
2 AI 에이전트 통합 관리 플랫폼으로 잠재적 위험 관리
3 글로벌 제약사, AI 도입 후 연간 최대 3.4억 원 절감

최근 기업들은 인공지능(AI)을 만드는 데만 집중하는 분위기였습니다. 하지만 프랑스의 한 AI 전문기업 '데이터이쿠'가 전혀 다른 목소리를 냈습니다. AI 시대의 핵심은 생성이 아니라, AI를 안전하게 ‘통제’하는 기술과 시스템에 있다는 것입니다. 이 주장은 단순한 외침이 아닙니다. 실제로 데이터이쿠는 LG화학, 포스코 등 국내 대기업들도 사용하는 AI 플랫폼을 운영하고 있습니다. 이들은 AI가 단순히 똑똑한 결과물을 만드는 것을 넘어, 기업이 믿고 맡길 수 있도록 관리하고 감독하는 것이 훨씬 중요하다고 강조합니다.

AI, 만들기만 하면 다가 아니라고?

최근 AI 기술은 여러 AI가 한 팀처럼 협력해서 복잡한 일을 처리하는 '에이전트 AI' 시대로 접어들고 있습니다. 마치 여러 명의 똑똑한 신입사원에게 일을 맡기는 것과 같습니다. 하지만 이들을 관리하는 팀장이나 시스템이 없다면 어떻게 될까요? 큰 실수가 발생하거나 예상치 못한 방향으로 일이 흘러갈 수 있습니다. 데이터이쿠는 바로 이 '팀장' 역할을 하는 AI 통제 시스템을 제공합니다. 사용자가 코딩을 몰라도 쉽게 AI를 만들고, 여러 AI 에이전트들이 서로 어떻게 소통하고 일하는지 한눈에 파악할 수 있게 돕습니다. AI를 그냥 풀어놓는 것이 아니라, 든든한 '관제탑'을 세우는 셈입니다.

그래서 어떻게 통제하는데?

데이터이쿠 플랫폼은 AI의 작동 과정을 투명하게 들여다볼 수 있는 기능을 갖췄습니다. AI가 어떤 과정을 거쳐 특정 결론을 내렸는지 그 경로를 시각적으로 보여줘 문제 발생 시 원인을 쉽게 찾고 해결할 수 있습니다. 또한 모델의 품질을 관리하고 비용을 제어하는 기능도 포함됩니다. AI가 비효율적으로 작동해 불필요한 비용을 발생시키는 것을 막고, 항상 일정한 수준의 성능을 유지하도록 감독합니다. 기업이 AI 기술을 도입할 때 걱정하는 윤리나 관리 문제를 해결해 줄 실질적인 대안이 될 수 있습니다.

실제로 돈 아낀 회사가 있다고?

이 기술의 효과는 실제 사례로 증명됐습니다. 글로벌 제약사 로슈는 4만 건에 달하는 방대한 특허 판례 데이터를 분석해야 하는 과제가 있었습니다. 과거에는 수많은 변호사가 직접 손으로 자료를 정리해야만 했습니다. 하지만 로슈는 데이터이쿠 플랫폼으로 만든 AI 에이전트를 도입한 후, 간단한 질문만으로 판례를 요약하고 분석할 수 있게 됐습니다. 이를 통해 아낀 인건비가 연간 최대 3억 4천만 원에 달합니다. 이는 단순히 AI를 만든 결과가 아니라, AI를 정교하게 ‘통제’했기 때문에 가능했던 성과입니다. AI는 이제 인터넷과 클라우드를 잇는 핵심 기술이 될 것이며, 안전하고 투명한 활용이 미래 기업의 경쟁력을 좌우할 것입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr