산업/비즈니스

“AI 보고서 믿었다가 망신살...” 대기업도 속은 치명적 환각

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.12 03:52

기사 3줄 요약

1 글로벌 대기업들, 너도나도 기업용 AI 도입 경쟁
2 딜로이트, AI 환각 보고서로 호주 정부에 환불 망신
3 AI 도입 가속화 속 책임과 윤리적 거버넌스 중요성 대두

최근 글로벌 기업들이 인공지능(AI) 도입에 열을 올리고 있습니다. 마치 새로운 금광을 발견한 것처럼, 너도나도 AI 기술로 비즈니스의 새로운 기회를 잡으려 합니다. 젠데스크, 앤트로픽, 구글 등 이름만 들어도 알만한 빅테크 기업들이 기업용 AI 시장에 뛰어들며 경쟁을 벌이고 있습니다. 하지만 이런 화려한 모습 뒤에는 어두운 그림자도 존재합니다. 세계적인 컨설팅 회사 딜로이트의 사례는 AI 도입이 항상 성공적인 것만은 아니라는 경고를 보냅니다.

왜 다들 AI에 돈을 쏟아붓는 거야?

기업들이 AI에 막대한 투자를 하는 이유는 분명합니다. 바로 ‘효율성’과 ‘비용 절감’입니다. 고객 서비스 솔루션 기업 젠데스크는 자사의 새로운 AI가 고객 문의의 80%를 해결할 수 있다고 발표했습니다. 이는 상담원 연결을 기다리느라 지쳤던 많은 사람에게 희소식일 수 있습니다. 또한, AI 기술 기업 앤트로픽은 IBM, 딜로이트와 같은 거대 기업들과 손을 잡았습니다. 이는 AI가 이제 단순한 보조 도구가 아니라, 기업의 핵심 전략을 짜는 파트너로 인정받고 있다는 의미입니다. 구글 역시 기업용 AI 플랫폼 ‘제미나이 엔터프라이즈’를 선보이며 시장 경쟁에 불을 붙였습니다. 기업들은 AI를 통해 당장 눈에 보이는 수익을 창출하려는 것입니다.

근데 AI, 진짜 믿을 수 있는 거 맞아?

장밋빛 전망만 있는 것은 아닙니다. 딜로이트는 AI를 활용해 작성한 보고서를 호주 정부에 제출했다가 망신을 톡톡히 당했습니다. 보고서에 AI가 지어낸 가짜 정보, 즉 ‘환각 현상’이 다수 포함되어 있었기 때문입니다. 결국 딜로이트는 비용을 환불해야 했습니다. 이 사건은 AI가 아직 완벽하지 않으며, AI가 만든 결과물을 사람이 꼼꼼히 확인하지 않으면 얼마나 위험한 상황이 벌어질 수 있는지 명확히 보여줍니다. AI를 쓴다는 이유로 더 많은 돈을 받고 엉터리 결과물을 내놓는다면, 그 누구도 신뢰하지 않을 것입니다.

그럼 앞으로 어떻게 될까?

딜로이트의 실수는 AI 도입을 고민하는 모든 기업에 중요한 교훈을 줍니다. AI는 분명 강력한 도구이지만, 그 결과물에 대한 최종 책임은 결국 사람에게 있다는 점입니다. AI가 내놓은 정보를 무작정 믿고 그대로 사용하는 것은 매우 위험합니다. 앞으로는 AI를 어떻게 안전하고 윤리적으로 사용할지에 대한 규칙, 즉 ‘AI 거버넌스’의 중요성이 더욱 커질 것입니다. 유럽연합(EU)의 AI 법처럼 각국 정부도 관련 규제를 강화하는 추세입니다. AI 기술의 발전과 함께, 이를 책임감 있게 사용하는 성숙한 자세가 필요한 시점입니다.