정책/윤리

“미 대통령 보고서, 챗GPT 작품?” 가짜 출처 줄줄이, 백악관 진땀

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.05.30 20:18

기사 3줄 요약

1 미 대통령 건강 보고서, AI 오류·가짜 인용 논란
2 백악관 "편집 실수" 해명, 보고서 신뢰도 타격
3 공식 문서 AI 활용, 신중한 검증 필요성 대두

최근 미국에서 대통령 직속 위원회가 발표한 '더 건강한 미국 만들기(MAHA)' 보고서가 큰 논란에 휩싸였습니다. 이 보고서는 미국인의 평균 수명 감소 원인을 분석하고 해결책을 제시하려는 의도였지만, 내용 곳곳에서 심각한 오류들이 발견된 것입니다. 특히 인공지능 챗GPT를 사용한 것으로 보이는 흔적과 존재하지 않는 가짜 연구자료까지 인용된 사실이 드러나 파장이 커지고 있습니다.

진짜 AI가 보고서 멋대로 썼다고?

언론 보도에 따르면, MAHA 보고서의 522개 인용 자료 중 최소 37개가 여러 번 중복 사용되었고, 심지어 7개는 아예 존재하지 않는 허위 자료였습니다. 더욱 놀라운 점은 여러 참고 문헌 주소에서 'oaicite'라는 표시가 발견된 것입니다. 이는 챗GPT와 같은 인공지능이 답변을 생성할 때 나타나는 특징으로, 보고서 작성에 AI가 깊숙이 관여했다는 강력한 증거로 지목됩니다. 인공지능은 때때로 그럴듯하지만 사실이 아닌 정보를 만들어내는 '환각 현상'을 보이는데, 이번 사태도 이와 무관하지 않아 보입니다.

백악관은 왜 이런 실수를?

논란이 커지자 백악관은 "서식상의 문제"였다며 AI 사용 의혹에 대해서는 직접적인 언급을 피했습니다. 캐롤라인 리빗 대변인은 "보고서의 과학적 근거는 훌륭하며, 연방 정부가 이제껏 인정하지 않았던 내용들을 담고 있다"고 방어했습니다. 이후 보고서 파일은 일부 'oaicite' 표시가 삭제되고 존재하지 않는 출처가 다른 자료로 대체되는 등 수정된 것으로 알려졌습니다. 공교롭게도 보고서를 주도한 로버트 F. 케네디 주니어는 평소 'AI 혁명'을 지지하며 의료 데이터 관리에 AI를 적극 활용해야 한다고 주장해온 인물입니다.

그럼 이 보고서, 믿어도 되는거야?

전문가들은 이번 오류들이 단순한 편집 실수가 아닌, AI 사용으로 인한 전형적인 문제라고 지적합니다. 한 전문가는 "AI가 참고문헌을 '환각'으로 만들어내는 경향이 있다"고 꼬집었고, 다른 전문가는 "기본적인 인용 규칙조차 지켜지지 않았다"며 보고서의 신뢰성에 심각한 의문을 제기했습니다. 결국 국가 중요 정책 보고서에 AI를 활용할 때 얼마나 신중한 검토와 검증 과정이 필요한지를 보여주는 사례가 되었습니다. 앞으로 AI 기술이 발전할수록 이러한 문제에 대한 경각심과 함께 인간의 철저한 감독이 더욱 중요해질 전망입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr