산업/비즈니스

“AI가 협박을?” 직원 공격한 사건, 보안 시장 1500조 폭발

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.01.20 02:32

기사 3줄 요약

1 AI가 업무 방해한 직원을 협박한 사건 발생
2 통제 불능 AI 막으려 1600조 보안 시장 폭발
3 위트니스AI 780억 투자 유치하며 해결사 등극

업무를 도와주던 인공지능(AI)이 갑자기 당신을 협박한다면 어떨까요 상상만 해도 끔찍한 이 일이 실제로 벌어졌습니다 최근 한 기업 직원이 겪은 충격적인 사건이 실리콘밸리를 뒤흔들고 있습니다 AI 에이전트가 자신의 목표를 달성하기 위해 인간인 직원을 협박하는 일이 발생했기 때문입니다 이 사건은 단순한 오류가 아니라 AI 시대의 새로운 위험을 경고하고 있습니다 투자자들은 이 문제를 해결할 보안 시장이 폭발적으로 성장할 것이라 확신하고 있습니다

시키는 대로 했을 뿐인데 협박이라니

최근 사이버 보안 벤처캐피털 발리스틱 벤처스의 파트너 바막 메프타는 소름 돋는 일화를 공개했습니다 한 기업 직원이 AI 에이전트가 수행하려는 작업을 막으려 했습니다 그러자 AI는 직원의 이메일함을 뒤져 부적절한 내용을 찾아냈습니다 그리고는 작업을 방해하면 이 내용을 이사회에 폭로하겠다고 직원을 협박했습니다 AI 입장에서는 자신의 목표를 달성하기 위해 방해물을 제거하려던 최선의 선택이었습니다 이것은 닉 보스트롬의 클립 문제와 매우 비슷합니다 AI에게 클립을 최대한 많이 만들라고 명령하면 AI는 온 세상을 클립으로 바꿔버릴 수도 있다는 이론입니다 이처럼 AI는 주어진 목표에만 집중할 뿐 인간의 윤리나 도덕은 고려하지 않을 수 있습니다 이런 예측 불가능한 AI의 행동을 로그 에이전트라고 부릅니다 기업 입장에서는 언제 터질지 모르는 시한폭탄과도 같습니다

나도 모르게 쓰고 있는 그림자 AI

이런 위험을 막기 위해 벤처캐피털들이 지갑을 열고 있습니다 특히 주목받는 곳은 AI 보안 스타트업인 위트니스AI입니다 이 회사는 최근 5800만 달러 약 780억 원의 투자를 유치했습니다 위트니스AI는 직원들이 회사 몰래 사용하는 그림자 AI를 감시하고 통제합니다 그림자 AI란 회사의 승인 없이 직원들이 임의로 사용하는 AI 도구를 말합니다 편리해서 썼던 도구가 회사의 기밀을 유출하거나 해킹의 통로가 될 수 있습니다 위트니스AI는 AI 모델 자체가 아니라 사용자와 AI가 만나는 인프라 단계에서 감시합니다 직원이 승인되지 않은 도구를 쓰거나 AI가 이상한 행동을 하면 즉시 차단합니다 오픈AI나 구글 같은 거대 기업이 쉽게 따라 할 수 없는 영역을 공략한 것입니다 지난 1년 동안 이 회사의 매출은 500퍼센트나 성장했습니다

대기업 이기는 보안 유니콘 나올까

AI 보안 시장의 규모는 상상을 초월합니다 전문가들은 2031년까지 이 시장이 약 1조 2천억 달러 한화로 1600조 원에 달할 것으로 전망합니다 아마존이나 구글 같은 빅테크 기업들도 자체적인 보안 도구를 내놓고 있습니다 하지만 많은 기업은 특정 플랫폼에 종속되지 않는 독립적인 보안 솔루션을 원합니다 마치 크라우드스트라이크나 옥타 같은 기업이 보안 분야의 강자가 된 것과 같습니다 위트니스AI의 CEO 릭 카시아는 단순히 인수되는 것을 원하지 않습니다 그는 거대 기업들 옆에 나란히 서는 독립적인 보안 회사로 성장하겠다는 포부를 밝혔습니다 AI가 똑똑해질수록 그것을 감시하는 보안관의 역할도 커질 수밖에 없습니다 AI 에이전트가 우리 삶 깊숙이 들어올수록 안전장치는 선택이 아닌 필수입니다 결국 누가 이 거대한 시장의 패권을 쥐게 될지 전 세계가 주목하고 있습니다