정책/윤리

“황당 AI, 3만5천 달러를 3천4백만 달러로?” 퇴역군인 지원 예산 증발 위기

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.07 03:22

기사 3줄 요약

1 미국 정부, 퇴역 군인 예산 삭감에 결함 AI 사용
2 AI, 계약금액 수백 배 뻥튀기 등 심각한 오류 발생
3 암 연구 중단 위기 등 재향 군인 지원 사업 차질

미국 정부가 퇴역 군인 지원 예산을 삭감하려고 도입한 인공지능(AI)이 3만 5천 달러짜리 계약을 3천 4백만 달러로 잘못 판단하는 등 심각한 오류를 일으켰습니다. 이 '똑똑한 줄 알았던' AI 때문에 암 연구 지원과 같은 필수적인 사업들이 중단될 위기에 놓였습니다. 이 사건은 AI 기술의 섣부른 도입이 얼마나 위험한 결과를 초래할 수 있는지 여실히 보여줍니다.

AI가 뭐길래 이런 실수를?

문제의 AI는 트럼프 행정부 시절 정부효율부(DOGE)에서 급하게 만들어졌습니다. 의료나 정부 경험이 없는 소프트웨어 엔지니어가 낡고 저렴한 AI 모델을 사용해 단 이틀 만에 개발했다고 합니다. 이 AI는 계약서의 일부 정보만 보고 중요도를 판단해 'MUNCHABLE(잘라낼 수 있음)' 딱지를 붙였습니다. 예를 들어, 실제로는 3만 5천 달러(약 4천8백만 원)짜리 계약을 3천 4백만 달러(약 470억 원)로 부풀려 인식하는 등 천 건이 넘는 계약에서 금액을 잘못 읽었습니다. 이처럼 기본적인 데이터조차 제대로 처리하지 못한 AI의 판단을 믿고 중요한 결정들이 내려진 것입니다. 전문가들은 이런 방식의 AI 활용은 매우 문제가 많다고 지적했습니다.

그래서 진짜 피해는 있었나?

실제로 이 AI가 지목한 계약 중 암 치료 연구용 유전자 분석 장비 유지보수, 혈액 샘플 분석 지원 등 최소 20여 개가 취소된 것으로 확인됐습니다. 재향군인회(VA) 측은 600여 개 계약을 전반적으로 중단했다고 밝혔지만, 구체적인 내용은 공개하지 않고 있습니다. 결국 퇴역 군인들을 위한 핵심 서비스가 AI의 오류로 중단된 셈입니다. VA 내부 직원들은 계약 검토 과정이 매우 불투명했고, 계약 유지를 위한 해명 시간도 부족했다고 토로했습니다. 심지어 일부 해명은 일론 머스크의 X(전 트위터) 글자 수 제한과 비슷한 255자 이내로 작성해야 했다고 합니다. 이러한 상황은 AI 시스템의 결함뿐 아니라, 이를 운영하는 과정의 문제점까지 드러냅니다.

개발자는 뭐라고 하는데?

이 AI 도구를 개발한 엔지니어 사힐 라빙기아는 자신의 코드가 완벽하지 않으며 실수가 있었음을 인정했습니다. 그는 "누군가 내 코드를 실행하고 그대로 따르는 것을 절대 추천하지 않는다"고 말했습니다. 마치 내비게이션이 호수로 길을 안내해도 그대로 따라가서는 안 된다는 유명한 코미디 장면처럼 말입니다. 라빙기아는 자신의 경험 부족과 짧은 개발 기간을 언급하며 AI가 모든 것을 해결해 줄 것이라는 환상을 경계해야 한다고 강조했습니다. 그는 자신이 개발한 코드의 일부를 대중에게 공개했고, 이것이 결국 해고의 한 원인이 된 것으로 보입니다. 이 사건은 AI 개발과 활용에 있어 투명성과 책임의 중요성을 다시 한번 생각하게 합니다. 이번 사태는 AI를 공공 서비스에 도입할 때 얼마나 신중한 검토와 검증 과정이 필요한지를 명확히 보여줍니다. 기술의 잠재력만큼이나 그 한계와 위험성을 충분히 인지하고, 인간의 감독과 책임 있는 관리가 병행되어야 합니다. 그렇지 않으면 선의로 시작된 기술 활용이 오히려 심각한 피해를 낳을 수 있다는 교훈을 남겼습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr