정책/윤리

“판사도 완벽히 속았다” 법정 뒤집은 AI 가짜 판례, 그 다음은?

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.21 21:24

기사 3줄 요약

1 미국 법원, AI가 만든 가짜 판례 기반 판결로 발칵
2 변호사가 제출한 AI 작성 초안, 판사가 그대로 승인해 논란
3 전문가 "AI 오류 간과, 사법 시스템 붕괴시킬 수도" 경고

미국 법원이 인공지능(AI)이 만들어 낸 가짜 정보 때문에 큰 혼란에 빠졌습니다. 한 판사가 AI가 제시한 가짜 판례를 근거로 판결을 내렸다가, 이 사실이 밝혀져 판결 전체가 무효가 되는 사건이 발생했습니다. 법률 전문가들은 이것이 앞으로 사법 시스템을 뒤흔들 수 있는 심각한 문제의 시작일 수 있다고 경고합니다. 이번 사건은 조지아주의 한 이혼 소송에서 시작됐습니다. 한 변호사가 AI를 이용해 작성한 것으로 보이는 법원 명령 초안을 판사에게 제출했고, 판사는 이를 면밀히 검토하지 않고 승인했습니다. 하지만 이 문서에는 존재하지 않는 가짜 판례 2개와 사건과 전혀 관련 없는 판례 2개가 포함되어 있었습니다. 결국 항소심에서 이 사실이 드러나면서 해당 변호사는 2,500달러의 제재금을 부과받았습니다. 법원은 AI가 만들어낸 가짜 정보, 즉 ‘환각 현상(Hallucination)’이 재판 결과를 왜곡할 뻔한 아찔한 순간이었다고 평가했습니다.

이거 심각한 문제 아니야?

법률 전문가들은 이번 사건이 결코 일회성 해프닝으로 끝나지 않을 것이라고 우려합니다. 특히 업무량이 많은 하급 법원에서는 판사들이 변호사가 제출한 서류를 일일이 검증하기 어려워, 비슷한 실수가 반복될 가능성이 ‘무서울 정도로 높다’고 지적합니다. AI가 만든 가짜 판결이 법원의 신뢰를 떨어뜨리고, 사람들이 사법 시스템 전체를 불신하게 만들 수 있다는 것입니다. 만약 판결의 진위를 의심하게 된다면, 법의 권위 자체가 흔들릴 수 있기 때문입니다. 현재 미국에서는 미시간과 웨스트버지니아 단 2개 주만이 판사들에게 AI 관련 기술 역량을 갖추도록 요구하고 있어, 대책 마련이 시급한 상황입니다.

그럼 이제 어떻게 해야 해?

이런 혼란을 막기 위해 여러 대안이 제시되고 있습니다. 먼저, 누구나 쉽게 판례의 진위를 확인할 수 있는 ‘공개 판례 저장소’를 만들자는 의견이 있습니다. 또한, AI가 만든 가짜 판례를 찾아내는 사람에게 보상금을 주는 ‘바운티(현상금) 시스템’ 도입도 거론됩니다. 가장 중요한 것은 판사와 변호사 모두 AI의 한계를 명확히 인지하고, 기술에 대한 교육을 강화하는 것입니다. AI는 유용한 도구일 수 있지만, 최종적인 판단과 책임은 결국 ‘인간’의 몫이라는 점을 잊어서는 안 됩니다. 공정함에 대한 존중, 윤리 의식과 같은 인간적인 가치는 AI가 결코 복제할 수 없기 때문입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr