“SNS 게시물, 24시간 감시된다” 78억짜리 美 AI 감시망의 실체

미국 이민세관집행국(ICE)이 소셜 미디어를 24시간 감시하는 거대한 시스템을 구축하고 있습니다. 최근 연방 기록에 따르면 ICE는 ‘지그널 랩스’라는 인공지능(AI) 기반 소셜 미디어 감시 플랫폼 사용에 570만 달러(약 78억 원)를 지불했습니다. 시민 단체들은 이를 두고 민주주의와 표현의 자유에 대한 ‘공격’이라며 강하게 비판하고 있습니다.

그래서, 이 AI가 정확히 뭘 하는 건데?

지그널 랩스의 웹사이트에 따르면 이 플랫폼은 소셜 미디어 게시물처럼 공개된 데이터를 대량으로 수집하고 분석할 수 있습니다. 머신러닝, 컴퓨터 비전 등 첨단 기술을 사용해 하루 80억 개가 넘는 게시물을 100개 이상의 언어로 처리합니다. 더 놀라운 점은 위치 정보가 포함된 이미지나 영상을 포착하는 능력입니다. 지그널 랩스가 공유한 안내서에는 텔레그램 영상 속 엠블럼이나 패치를 분석해 작전 위치와 관련자를 확인했다고 나와 있습니다. 이는 ICE가 틱톡 영상이나 페이스북 사진 한 장으로 특정인의 위치를 추적할 수 있음을 의미합니다.

어떻게 이런 감시가 가능해진 거야?

ICE는 정부 기관에 IT 솔루션을 제공하는 ‘카라소프트’라는 회사를 통해 이 시스템을 도입했습니다. 이를 두고 민간 기업과 국가 감시의 경계가 모호해졌다는 지적이 나옵니다. 이러한 방식은 정부가 직접 개발할 때보다 더 까다로운 감독을 피하면서 감시망을 쉽게 넓힐 수 있게 만듭니다. ICE는 여기서 그치지 않고, 수십 명의 계약직원을 고용해 24시간 감시 체계를 갖추고 정보 허브까지 구축할 계획입니다.

이건 그냥 감시가 아니라 ‘공격’이라고?

감시 기술 감독 프로젝트(STOP)의 윌 오웬 국장은 이번 계약을 두고 민주주의와 표현의 자유에 대한 명백한 ‘공격’이라고 비판했습니다. AI 기반의 광범위한 감시가 이민자 사회나 유색인종을 부당하게 표적으로 삼을 수 있다는 우려 때문입니다. 또한 AI 알고리즘이 가진 편향성 문제도 심각합니다. AI가 부정확한 판단을 내려 무고한 사람을 조사하거나 추방 대상으로 지목할 수 있습니다. 모든 디지털 기록이 잠재적 증거가 될 수 있다는 사실만으로도 사람들은 자기 검열을 하게 되고, 이는 결국 열린 사회의 기반을 무너뜨릴 수 있습니다.

우리 삶에 어떤 영향을 미칠까?

이번 사태는 단순히 특정 집단에 대한 감시 문제를 넘어섭니다. 모든 사람의 디지털 자유가 침해될 수 있다는 경고등이 켜진 셈입니다. 모든 소셜 미디어 활동이 감시 대상이 될 때, 온라인 공간에서의 자유로운 표현은 위축될 수밖에 없습니다. 기술이 우리를 연결하는 도구가 아닌, 통제하고 감시하는 도구로 변질될 수 있다는 점에서 사회적 논의와 강력한 규제가 필요하다는 목소리가 커지고 있습니다.