정책/윤리

"판사도 속았다!" AI발 가짜 판례에 법정 초비상, 변호사들 3천만원 물었다

댓글 0 · 저장 0 2025.05.15 05:42

기사 3줄 요약

1 AI 생성 가짜 판례 법정 제출, 판사도 속을 뻔
2 미국 판사, AI 오류 직접 지적하며 강력 경고
3 로펌들, 과실 책임지고 3천만원 이상 배상 판결

미국 법정에서 인공지능(AI) 때문에 판사까지 속을 뻔한 아찔한 사건이 발생했습니다. 변호사가 AI가 만들어낸 가짜 판례를 법원에 제출했고, 판사는 이 가짜 정보를 진짜인 줄 알고 판결문에 넣을 뻔했다고 직접 밝혔습니다. 이 일로 해당 로펌들은 결국 3천만 원이 넘는 벌금을 물게 되었습니다.

그래서, 정확히 무슨 일이 있었던 거야?

사건은 전 로스앤젤레스 카운티 지방 검사였던 재키 레이시가 보험사 스테이트 팜을 상대로 제기한 소송에서 벌어졌습니다. 레이시 측 변호를 맡은 엘리스 조지 로펌과 대형 로펌 K&L 게이츠 소속 변호사들이 법원에 제출한 서류가 문제였습니다. 엘리스 조지 로펌의 트렌트 코플랜드 변호사가 AI 도구를 사용해 서류 초안을 작성했는데, 여기에 AI가 만들어낸 가짜 판례와 인용문이 다수 포함된 것입니다. 동료 변호사들은 이 AI 생성 자료를 제대로 확인하지 않고 법원에 제출했습니다. AI가 만든 가짜 정보는 'AI 환각 현상'이라고 불리는데, AI가 마치 환각을 보는 것처럼 그럴듯하지만 사실이 아닌 정보를 만들어내는 것을 말합니다. 이번 사건에서는 10페이지 분량 서류 속 법률 인용 27개 중 약 9개가 부정확했고, 최소 2개의 판례는 아예 존재하지 않는 것으로 드러났습니다.

판사도 하마터면 속을 뻔했다고?

네, 그렇습니다. 이 사건을 담당한 마이클 윌너 특별 조사관(판사의 업무를 돕는 법률 전문가)은 AI가 만든 가짜 인용문을 읽고 처음에는 진짜라고 생각했다고 밝혔습니다. 그는 "솔직히 말해, 원고 측의 AI 사용은 나를 명백히 오도했다"며 "그들의 서류를 읽고 인용된 판례에 설득되어 더 자세히 찾아봤지만, 존재하지 않았다. 정말 무서운 일"이라고 심경을 토로했습니다. 윌너 조사관은 하마터면 이 가짜 정보들을 판결문에 포함시킬 뻔했다고 덧붙였습니다. 변호사들은 AI가 만든 자료라는 사실을 처음에는 숨기려 했지만, 조사관의 추궁 끝에 모든 사실을 털어놓고 사과했습니다. 변호사들은 AI가 만들어낸 내용이 실제 법 내용과 아주 틀리지는 않았다고 주장했지만, 조사관은 이를 "궁색한 변명"이라고 일축했습니다.

결국 변호사들은 어떻게 됐을까?

윌너 조사관은 변호사들의 행위가 "악의에 가까운 무모한 행동"이었다고 강하게 비판했습니다. 그는 "합리적인 변호사라면 연구와 작성을 AI 기술에 맡기고, 특히 그 정확성을 확인하려는 시도조차 하지 않는 것은 있을 수 없는 일"이라고 지적했습니다. 결국 두 로펌에는 총 31,100달러(약 4,300만원)의 제재금이 부과되었습니다. 이는 상대방 변호사 비용 등을 보상하는 금액입니다. 윌너 조사관은 변호사 개개인에 대한 처벌 대신 로펌에 책임을 물었습니다. 그는 "AI라는 손쉬운 지름길에 굴복하지 않도록 강력한 경고가 필요하다"고 강조하며, AI가 생성한 허위 정보가 포함된 서류는 모두 기각했습니다.

AI 시대, 법조계의 고민은?

이번 사건은 AI 기술을 법률 분야에 활용할 때 발생할 수 있는 위험성을 명확히 보여줍니다. AI는 방대한 자료를 빠르게 분석하고 정리하는 데 도움을 줄 수 있지만, 아직 완벽하지 않아 오류를 범할 수 있습니다. 특히 법률처럼 정확성이 생명인 분야에서는 AI가 생성한 정보를 사람이 꼼꼼히 확인하고 검증하는 절차가 반드시 필요합니다. 전문가들은 AI가 법률 서비스의 미래를 바꿀 잠재력이 크지만, 동시에 윤리적 책임과 신중한 접근이 중요하다고 입을 모읍니다. 이번 일을 계기로 법조계에서도 AI 활용 가이드라인 마련과 변호사들의 AI 윤리 교육 강화에 대한 목소리가 더욱 커질 것으로 보입니다. AI는 편리한 도구이지만, 최종 판단과 책임은 언제나 사람에게 있다는 점을 잊지 말아야 할 것입니다.