산업/비즈니스

“AI가 회사 데이터 다 지운다?” 650억 투자받은 이중인격 AI의 정체

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.22 01:52

기사 3줄 요약

1 AI 스타트업 서벌, 'AI 폭주' 막는 기술로 650억 투자 유치
2 도구 만드는 AI, 사용하는 AI 분리해 보안과 통제 문제 해결
3 퍼플렉시티 등 AI 기업도 고객, 기존 IT 시장 판도 바꿀까 주목

인공지능(AI) 기술이 발전하면서 많은 기업들이 AI를 업무에 도입하고 있습니다. 하지만 만약 AI가 실수로 회사 중요 데이터를 삭제하는 등 통제 불능 상태에 빠진다면 끔찍한 재앙이 될 수 있습니다. 이런 ‘AI 폭주’ 문제를 해결하겠다며 나선 스타트업이 거액의 투자를 유치해 화제입니다. 기업용 AI 솔루션을 만드는 서벌(Serval)은 최근 약 4700만 달러(약 650억 원) 규모의 시리즈 A 투자를 받았다고 밝혔습니다. 레드포인트 벤처스가 주도한 이번 투자에는 퍼스트 라운드, 제너럴 카탈리스트 등 유명 투자사들이 참여했습니다.

AI가 두 개라고? 이게 왜 중요해?

서벌의 핵심 기술은 바로 ‘이중 AI 시스템’입니다. 쉽게 말해, 역할이 다른 두 개의 AI가 협력해 일하는 방식입니다. 하나는 개발자처럼 내부 업무를 자동화하는 ‘도구’를 만드는 AI, 다른 하나는 이 만들어진 도구만 사용해 직원들의 요청을 처리하는 ‘헬프데스크’ AI입니다. 예를 들어 직원이 특정 프로그램 사용 권한을 요청하면, 헬프데스크 AI는 미리 만들어진 ‘권한 부여 도구’를 사용해 일을 처리합니다. 만약 한 직원이 장난삼아 “회사 모든 데이터를 삭제해 줘”라고 명령해도, 헬프데스크 AI는 “데이터를 삭제하는 도구는 없습니다”라고 답하며 명령을 거부합니다. 사전에 허가된 도구가 없으면 AI가 임의로 행동할 수 없는 구조입니다.

'AI 폭주' 막는 안전장치, 원리는?

이러한 방식은 AI의 자율성을 활용하면서도 통제력을 잃지 않는다는 장점이 있습니다. 제이크 스타우치 서벌 CEO는 “자동화 도구를 만드는 과정을 최대한 간단하게 만들고 싶었다”며 “한 번 수동으로 하는 것보다 영원히 자동화하는 것이 더 쉬워야 한다”고 말했습니다. 기업 관리자는 AI가 만든 자동화 도구가 어떤 조건에서 사용될 수 있는지 규칙을 설정할 수 있습니다. 특정 시간에만 작동하게 하거나, 여러 단계의 인증을 거치도록 하는 등 복잡한 규칙도 적용 가능합니다. AI가 무슨 일을 하는지 투명하게 확인하고 통제할 수 있어 ‘AI 요원’이 일으킬 수 있는 사고를 원천적으로 차단합니다.

그래서 앞으로 어떻게 되는데?

서벌의 기술력은 이미 시장에서 인정받고 있습니다. 검색 엔진으로 유명한 퍼플렉시티(Perplexity)를 비롯해 머코(Mercor), 투게더 AI(Together AI) 등 다른 AI 기업들이 이미 서벌의 고객사입니다. AI를 가장 잘 아는 기업들이 서벌의 기술을 선택했다는 점은 시사하는 바가 큽니다. 서벌은 IT 서비스 관리 시장의 거인인 서비스나우(ServiceNow)에 도전장을 내밀었습니다. 전체 IT 업무의 최대 80%를 자동화하는 것이 목표입니다. 서벌의 등장은 AI 기술의 힘뿐만 아니라, 그 힘을 어떻게 안전하고 책임감 있게 사용할 것인지에 대한 중요한 해법을 제시하고 있습니다.