정책/윤리

“변호사도 속았다…” AI가 지어낸 가짜 판례 믿고 제출했다가 800만원 벌금

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.09 04:52

기사 3줄 요약

1 '마이필로우' CEO 변호인, AI가 만든 가짜 서류 제출
2 법원, 변호인들에게 800만원 벌금 부과하며 질책
3 AI 환각 현상의 법조계 책임 논란으로 번지는 중

미국의 한 법정에서 인공지능(AI) 때문에 변호사가 벌금을 내는 황당한 사건이 일어났습니다. 유명 베개 회사 '마이필로우'의 마이크 린델 CEO 측 변호인들이 AI가 작성한 엉터리 법률 서류를 그대로 제출했다가 망신을 당한 것입니다. 법원은 이들에게 미화 6,000달러, 우리 돈으로 약 800만 원의 벌금을 부과했습니다. 이 사건은 AI 기술을 무분별하게 사용할 때 어떤 위험이 따르는지 명확하게 보여주는 경고등이 되었습니다. AI가 편리한 도구인 것은 맞지만, 전문가의 최종 확인 없이는 재앙을 부를 수 있다는 교훈을 남겼습니다.

AI가 판사님 앞에서 거짓말을?

사건의 발단은 명예훼손 소송에서 시작됐습니다. 변호인단은 법원에 제출한 서류에 AI를 활용했습니다. 하지만 이 서류에는 존재하지 않는 가상의 판례와 잘못된 인용이 무려 30개 가까이 포함되어 있었습니다. 이는 'AI 환각(Hallucination)' 현상의 대표적인 사례입니다. AI 환각이란, AI가 그럴듯하게 거짓 정보를 만들어내는 현상을 말합니다. 변호인들은 AI가 만들어낸 가짜 정보를 단 한 번의 확인도 없이 법원에 공식 문서로 제출하는 치명적인 실수를 저질렀습니다.

“실수였습니다”... 변명은 통하지 않았다

법정에서 변호인들은 “실수로 초안을 제출했다”고 변명했습니다. 하지만 담당 판사는 이들의 주장을 받아들이지 않았습니다. 판사는 해당 변호인들이 다른 재판에서도 비슷한 실수를 저지른 사실을 지적했습니다. 단순한 한 번의 실수가 아니라고 판단한 것입니다. 결국 법원은 변호사들이 사실관계를 확인해야 하는 기본적인 직업윤리를 위반했다고 판결했습니다. 이번 벌금은 변호사로서의 책임을 다하지 않은 것에 대한 엄중한 처벌인 셈입니다.

AI 시대, 전문가의 진짜 능력은 ‘검증’

이번 사건은 법조계뿐만 아니라 AI를 사용하는 모든 전문가에게 큰 숙제를 남겼습니다. AI가 아무리 발전해도 그 결과물을 100% 신뢰해서는 안 된다는 점입니다. AI의 답변을 비판적으로 검토하고 사실을 확인하는 '검증 능력'이 그 어느 때보다 중요해졌습니다. 한편, 이 소송에서 마이크 린델 CEO는 명예훼손 혐의가 인정되어 약 230만 달러, 우리 돈으로 약 32억 원에 달하는 거액의 배상금 판결을 받았습니다. AI에 의존했던 변호인들의 실수는 재판 결과에도 좋은 영향을 주지 못한 셈입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr