정책/윤리

“판사도 AI에 속았다?” 판결문에 가짜 인용문이 수두룩

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.25 20:20

기사 3줄 요약

1 미국 판사, AI 오류 의심되는 판결문 전격 철회
2 판결문에 존재하지 않는 가짜 인용문 다수 발견
3 법조계 AI 활용 신뢰도 논란, 심각한 문제로 대두

미국 법원이 한순간에 발칵 뒤집혔습니다. 현직 판사가 내린 판결문이 통째로 철회되는 이례적인 사건이 발생했습니다. 판결문에 있지도 않은 가짜 인용문과 잘못된 정보가 다수 발견되었기 때문입니다. 법조계에서는 인공지능(AI)이 만들어낸 그럴듯한 거짓말, 즉 '환각 현상'을 의심하고 있습니다.

AI가 판결문 쓰는 세상, 진짜야?

사건은 뉴저지 지방법원의 줄리언 자비에 닐스 판사가 한 제약회사 소송에서 내린 결정에서 시작됐습니다. 한 변호사가 판결문에 심각한 오류가 많다고 지적하면서 문제가 수면 위로 떠올랐습니다. 판결문에는 다른 사건의 결과를 잘못 설명하거나, 세상에 존재하지 않는 인용문을 마치 실제 있는 것처럼 적어놓은 부분이 여러 곳이었습니다. 이러한 오류는 AI가 법률 문서를 작성할 때 자주 보이는 전형적인 환각 현상과 매우 흡사합니다. 결국 법원은 해당 판결을 오류였다고 인정하고 철회했습니다.

이런 일이 처음이 아니라고?

사실 법조계에서 AI가 문제를 일으킨 것은 이번이 처음이 아닙니다. 얼마 전에는 유명 베개 회사 사장의 변호사들이 AI가 만든 가짜 판례를 법원에 제출했다가 벌금을 물기도 했습니다. 심지어 AI 챗봇 '클로드'를 만든 회사조차 자신들의 법적 분쟁에서 AI가 만든 잘못된 정보를 제출하는 황당한 일이 있었습니다. 이처럼 AI를 섣불리 믿었다가 망신을 당하는 사례가 계속해서 나오고 있습니다.

그럼 이제 판사도 못 믿는 거야?

이번 사건은 AI 기술이 아무리 발전해도 사람의 확인과 검증이 얼마나 중요한지 보여줍니다. 전문가들은 AI가 변호사나 판사를 완전히 대체하기는 아직 멀었다고 입을 모읍니다. AI는 편리한 도구이지만, 사람의 인생을 좌우할 수 있는 판결에까지 무분별하게 사용하는 것은 매우 위험합니다. 기술을 활용하되, 최종적인 책임은 사람이 져야 한다는 목소리가 커지고 있습니다. AI 시대에 맞는 새로운 법과 윤리 기준이 시급해 보입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr