산업/비즈니스

“AI가 쓴 엉터리 보고서” 딜로이트, 호주 정부에 4억 뱉어낼 판

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.07 01:58

기사 3줄 요약

1 세계적 기업 딜로이트, AI로 엉터리 보고서 작성
2 존재 않는 논문 인용 들통나 정부에 4억 원 환불
3 AI 환각 현상의 위험성, 전문가 검증 중요성 대두

세계적인 컨설팅 기업 딜로이트가 인공지능(AI)으로 작성한 보고서 때문에 큰 망신을 당했습니다. 호주 정부에 제출한 중요한 보고서에서 AI가 만들어낸 가짜 정보들이 대거 발견됐기 때문입니다. 결국 딜로이트는 보고서 비용 일부를 정부에 돌려주기로 결정했습니다.

이게 어떻게 들통난 거야?

이번 사건은 한 대학교수의 날카로운 눈썰미 덕분에 세상에 알려졌습니다. 시드니 대학교의 크리스 러지 부국장은 딜로이트가 제출한 보고서를 읽던 중 이상한 점을 발견했습니다. 보고서에 인용된 여러 논문과 자료들이 실제로는 존재하지 않는다는 사실을 알아챈 것입니다. 특히 같은 대학의 리사 버튼 크로포드 교수는 자신이 쓴 적도 없는 가짜 연구 자료가 버젓이 인용된 것을 보고 황당함을 감추지 못했습니다. 호주 정부가 이 보고서를 위해 쓴 돈은 무려 44만 호주달러, 우리 돈으로 약 4억 원에 달합니다.

딜로이트는 뭐라고 해명했는데?

논란이 커지자 딜로이트는 결국 실수를 인정했습니다. 보고서 작성 과정에서 ‘GPT-4o’ 기반의 생성형 AI를 사용했다고 시인한 것입니다. 이후 문제가 된 가짜 인용과 자료들을 모두 삭제한 수정본을 다시 내놓았습니다. 호주 파이낸셜 리뷰에 따르면, 수정 과정에서 원래 보고서에 있던 141개의 출처 중 14개가 삭제되었습니다. 모두 AI가 지어낸 가짜 정보였던 셈입니다.

그래서 보고서는 완전 쓸모없게 된 거야?

딜로이트는 비용 일부를 환불하며 책임을 지는 모습을 보였습니다. 호주 정부 또한 보고서의 핵심적인 권고 사항에는 변함이 없다는 입장입니다. 하지만 전문가들의 시선은 차갑습니다. 처음 문제를 제기했던 러지 부국장은 “보고서의 기초부터가 엉터리인데 어떻게 그 결론을 믿을 수 있겠냐”고 강하게 비판했습니다. AI를 썼다는 사실을 처음부터 숨긴 것도 신뢰를 떨어뜨리는 큰 요인이 됐습니다.

AI, 믿어도 되는 거 맞아?

이번 딜로이트 사건은 AI 기술을 사용할 때 인간의 꼼꼼한 확인과 검증이 얼마나 중요한지 보여주는 대표적인 사례가 됐습니다. AI가 아무리 발전해도 그 결과물을 맹신해서는 안 된다는 교훈을 남긴 셈입니다. AI가 만든 편리함 뒤에는 ‘환각 현상’이라는 치명적인 함정이 숨어있습니다. 앞으로 기업들이 AI를 활용할 때 더 엄격한 윤리 기준과 검증 절차를 마련해야 한다는 목소리가 커지고 있습니다.