정책/윤리

“이 판결문, 전부 가짜입니다” AI의 거짓말에 미국 법원이 발칵 뒤집혔다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.22 00:35

기사 3줄 요약

1 미국 법원, AI가 만든 가짜 판례에 판결 번복
2 해당 변호사는 벌금, 판사는 AI 역량 강화 요구
3 전문가들, 사법 시스템에 대한 심각한 위협 경고

미국 법원이 인공지능(AI)이 만들어낸 가짜 정보 때문에 한바탕 소동을 겪었습니다. 한 판사가 AI가 지어낸 가짜 판례가 담긴 판결문에 그대로 서명할 뻔한 아찔한 사건이 발생한 것입니다. 이는 AI 기술의 발전이 우리에게 편리함만 주는 것이 아니라는 경고등을 켠 사건입니다. 최근 미국 조지아주 항소 법원은 한 이혼 소송 판결을 무효로 했습니다. 남편 측 변호사가 제출한 판결문 초안에 AI가 지어낸 가짜 사건 두 건이 포함되어 있었기 때문입니다. AI가 존재하지 않는 정보를 진짜처럼 만들어내는 ‘환각(Hallucination)’ 현상이 법정에서 현실이 된 것입니다. 결국 해당 변호사는 2,500달러의 벌금을 물게 되었습니다.

이거 그냥 한 번 일어난 실수 아니야?

전문가들은 이번 사건이 결코 일회성 해프닝이 아니라고 경고합니다. 텍사스 항소법원 판사 출신인 존 브라우닝 교수는 “이런 일이 더 많이 발생하는 것은 무서울 정도로 가능성이 높다”고 말했습니다. 특히 업무가 많은 하급 법원일수록 AI가 만든 오류를 걸러내지 못할 위험이 크다는 지적입니다. 이러한 문제에 대응하기 위해 일부 주에서는 판사들에게 AI 관련 기술 역량을 갖추도록 요구하고 있습니다. 하지만 아직 대부분의 법원에서는 명확한 규정이나 지침이 없는 실정입니다. 변호사와 판사 모두 AI의 편리함에 기댈수록, 사법 시스템의 신뢰가 흔들릴 수 있다는 우려가 커지고 있습니다.

그럼 앞으로 어떻게 해야 해?

이런 혼란을 막기 위해 다양한 해결책이 제시되고 있습니다. 모든 판례를 모아 누구나 쉽게 사실을 확인할 수 있는 ‘중앙 판례 저장소’를 만들자는 의견이 나옵니다. 또한, AI가 만든 가짜 정보를 찾아내는 사람에게 벌금의 일부를 포상금으로 주는 ‘바운티 시스템’ 도입도 거론됩니다. 결국 가장 중요한 것은 인간의 역할입니다. AI를 활용하더라도 최종적인 확인과 판단의 책임은 변호사와 판사에게 있다는 것입니다. AI 기술을 올바르게 사용하기 위한 교육과 윤리 지침 마련이 시급해 보입니다. AI가 법의 심판을 돕는 유용한 도구가 될지, 아니면 정의를 위협하는 혼란의 시작이 될지는 우리의 노력에 달려있습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr