정책/윤리

“수백억짜리 AI가 먹통?” FDA ‘엘사’ 내부자들의 충격 증언들

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.06 06:26

기사 3줄 요약

1 FDA 수백억 AI '엘사' 오류투성이 논란
2 내부 직원들 "부정확, 과대 포장" 비판
3 성급한 도입에 효용성 의문, 예산 낭비 우려

미국 식품의약국(FDA)이 야심차게 도입한 인공지능(AI) 도우미 '엘사(Elsa)'가 심각한 문제를 드러내고 있습니다. FDA 국장은 예산도 아끼고 일정보다 빠르게 개발했다고 자랑했지만, 내부 직원들은 "서둘러 출시했고, 오류투성이에, 과대 포장되었다"며 강하게 비판하고 있습니다. 수백억 원이 투입된 이 AI 프로젝트가 시작부터 삐걱거리는 모습입니다.

아니, 도대체 무슨 일이길래?

FDA 직원들은 '엘사'가 간단한 질문에도 엉뚱하거나 완전히 틀린 답변을 내놓는다고 밝혔습니다. 예를 들어, FDA가 승인한 제품에 대한 정보를 물어도 잘못된 요약을 제공하는 경우가 있었습니다. 이 때문에 직원들은 엘사가 과학적인 분석보다는 단순 행정 업무에나 간신히 쓸 수 있는 수준이라고 평가절하하고 있습니다.

전문가들은 뭐래? 너무 성급했던 거 아냐?

내부 관계자들은 특히 마티 마카리 FDA 국장과 일론 머스크가 이끄는 정부 효율성 부서(DOGE)가 AI의 능력을 지나치게 부풀렸다고 지적합니다. 이들은 AI가 직원을 대체하고 검토 시간을 단축할 수 있다고 믿는 것 같지만, 현실은 그렇지 않다는 것입니다. "AI를 급하게 내놓느라 사용 지침이나 정책을 제대로 고민했는지 모르겠다"는 우려의 목소리도 나왔습니다.

그럼 이 AI, 누가 만든 건데?

'엘사'는 인공지능 기업 앤트로픽의 '클로드'라는 모델을 기반으로, 컨설팅 회사 딜로이트가 개발했습니다. 딜로이트는 2020년부터 FDA 문서 데이터베이스 개발 명목으로 약 1380만 달러(약 190억 원)를 받았고, 지난 4월에는 엘사 개발 및 확장을 위해 1470만 달러(약 203억 원) 계약을 추가로 체결했습니다. 결국 총 2850만 달러(약 393억 원)라는 막대한 예산이 투입된 셈입니다.

그래서, 앞으로 어떻게 되는 거야?

원래 FDA 내 각 센터는 자체 AI 시범 프로그램을 운영했지만, 비용 절감을 이유로 하나의 프로그램(CDER-GPT)을 '엘사'로 확대 개편했습니다. 하지만 의료기기방사선보건센터(CDRH) 직원들은 자신들의 AI 시범 프로그램조차 버그가 많고 인터넷이나 내부 시스템 연결도 안 되며, 문서 업로드나 질문 제출도 어렵다고 토로했습니다. 이런 문제들이 해결되지 않는다면, '엘사'는 이름만 거창한 애물단지가 될 수 있습니다. 미국의 식품의약국(FDA)의 '엘사' 사태는 새로운 기술 도입에 있어 속도보다 신중함과 철저한 검증이 중요함을 보여줍니다. AI가 만능 해결책이 될 수 있다는 막연한 기대보다는, 현실적인 한계를 인지하고 단계적으로 발전시켜 나가는 지혜가 필요해 보입니다. 결국 국민의 안전과 건강을 다루는 기관인 만큼, 더욱 신중한 접근이 요구됩니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr