정책/윤리

“AI 판사가 판결 조작한다”... 미래 법정, 개인의 운명을 뒤바꿀 수도

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.22 05:43

기사 3줄 요약

1 미국 법원, AI가 만든 가짜 판례 기반 판결 내릴 뻔한 사건 발생
2 전문가들, AI 오류가 사법 시스템 신뢰를 무너뜨릴 수 있다고 경고
3 판사 기술 교육, 오류 제보 포상금 등 새로운 대책 마련 시급

인공지능(AI)이 판결문을 작성하는 시대가 현실로 다가왔지만, 그 시작부터 심각한 논란이 터져 나왔습니다. 최근 미국 법원에서 AI가 만들어낸 가짜 판례를 근거로 판결이 내려질 뻔한 아찔한 사건이 발생했습니다. 전문가들은 이 사건이 단순한 실수가 아니라고 경고합니다. AI가 그럴듯한 거짓말을 만들어내는 ‘환각(Hallucination)’ 현상이 사법 시스템 전체의 신뢰를 뿌리째 흔들 수 있다는 지적입니다. 이는 앞으로 AI가 재판에 더 깊이 관여할수록, 누구에게나 닥칠 수 있는 현실적인 위협이 되고 있습니다.

이거 진짜 있었던 일이야?

사건은 미국 조지아주의 한 이혼 소송에서 시작됐습니다. 변호사가 AI를 이용해 작성한 법원 명령 초안에 존재하지 않는 가짜 판례가 다수 포함됐던 것입니다. 더 큰 문제는 판사조차 이 오류를 걸러내지 못하고 그대로 판결을 내릴 뻔했다는 점입니다. 결국 항소심에서 문제가 발견되어 해당 변호사는 2,500달러의 제재금을 물었습니다. 하지만 이 사건은 AI가 생성한 거짓 정보가 법정에서 얼마나 쉽게 통용될 수 있는지, 그리고 그로 인해 재판이 지연되고 사회적 비용이 낭비될 수 있는지를 보여주는 대표적인 사례로 남게 됐습니다.

전문가들은 뭐라고 하는데?

이 사건을 두고 전문가들은 ‘끔찍할 정도로 가능성이 높다’고 우려를 표합니다. 특히 업무량이 많은 하급 법원일수록 판사들이 AI가 만든 오류를 간과할 위험이 크다는 것입니다. 텍사스 항소법원 판사 출신인 존 브라우닝 교수는 이런 일이 이혼 소송뿐 아니라 민사, 형사 재판 등 모든 영역에서 일어날 수 있다고 경고했습니다. AI가 만든 가짜 판결로 인해 억울한 피해자가 생기고, 사법 시스템에 대한 불신이 커지는 것은 시간문제라는 목소리가 높습니다. 이는 먼 나라 이야기가 아니라, 기술 발전에 따라 우리 모두가 직면할 수 있는 문제입니다.

그럼 해결 방법은 없는 거야?

다행히 해결책을 찾으려는 노력도 시작됐습니다. 가장 눈에 띄는 아이디어는 ‘오류 제보 포상금’ 제도입니다. 법률 문서에서 AI가 만든 가짜 정보를 찾아내 신고하면 보상금을 지급해, 변호사들이 스스로 AI 결과물을 꼼꼼히 검토하게 만드는 방식입니다. 또한, 판사들에게 AI 기술에 대한 전문성을 요구하는 ‘기술 역량 강화’ 의무를 부과해야 한다는 주장도 힘을 얻고 있습니다. 하지만 아직 미국 내에서도 단 2개 주만이 관련 규정을 도입했을 정도로 갈 길은 멉니다. AI가 가져올 법정의 미래가 혼란이 아닌 정의를 향하기 위해서는, 기술을 감시하고 통제할 구체적인 제도 마련이 시급해 보입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr