정책/윤리

“판사님 죄송합니다..” AI 믿고 재판하다 의뢰인 ‘폭망’

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.02.07 08:32

기사 3줄 요약

1 변호사가 AI로 작성한 가짜 판례 법원에 제출
2 판사 격노해 재판 강제 종료 및 패소 판결
3 전문가 영역서 AI 맹신하면 위험하다는 경고

최근 미국 뉴욕 법원에서 믿기 힘든 일이 벌어졌습니다. 한 변호사가 인공지능(AI)을 사용해 법률 서류를 작성했다가, 재판에서 강제로 패소당하는 초유의 사태가 발생했습니다. AI가 만들어낸 ‘가짜 정보’를 확인하지 않고 그대로 법원에 제출했다가 판사의 분노를 산 것입니다. AI가 법률 업무를 돕는 도구가 아니라, 재판을 망치는 주범이 될 수 있다는 강력한 경고가 나오고 있습니다. 이번 사건은 단순한 실수가 아니라, 전문가로서의 책임을 저버린 행동이 어떤 결과를 초래하는지 보여주는 충격적인 사례입니다.

“판사님, 이건 소설이잖아요?”

사건의 주인공은 스티븐 펠드먼이라는 변호사입니다. 그는 장난감 회사가 도난 물품 판매업체를 고소한 사건을 맡고 있었습니다. 그런데 그가 제출한 서류에는 뜬금없이 유명 SF 소설인 레이 브래드버리의 ‘화씨 451’의 문구가 인용되어 있었습니다. 심지어 고대 도서관이나 성경 구절 같은, 재판과 전혀 상관없는 화려한 문장들이 가득했습니다. 판사가 이를 이상하게 여겨 확인해보니, 서류에 적힌 판례 중 상당수가 실제로는 존재하지 않는 ‘가짜’였습니다. 펠드먼 변호사는 처음에는 AI가 쓴 것이 아니라고 발뺌했습니다. 하지만 결국 그는 구글의 노트북LM 같은 AI 도구들을 사용했고, 그 내용을 제대로 검증하지 않았음을 시인했습니다. 도서관 갈 시간이 없었다는 황당한 변명과 함께 말입니다.

AI가 만든 환각, 대가는 혹독했다

담당 판사인 캐서린 폴크 파일라 판사는 이 상황을 그냥 넘기지 않았습니다. 판사는 변호사가 자신의 실수를 바로잡을 기회가 있었음에도 불구하고, 이를 무시하고 법원을 기만했다고 판단했습니다. 특히 AI가 만들어낸 거짓 정보(할루시네이션)를 전문가인 변호사가 걸러내지 못한 것은 치명적인 잘못이라고 지적했습니다. 결국 판사는 해당 사건을 ‘강제 종료’ 시켜버렸습니다. 재판을 끝내버리고 펠드먼 변호사 측의 패소를 선언한 것입니다. 이로 인해 그의 의뢰인은 물건 판매가 금지되고, 소비자에게 돈을 환불해줘야 하는 등 막대한 손해를 입게 되었습니다. 현지 법조계 소식통에 따르면, 이번 판결은 AI를 무책임하게 사용하는 변호사들에게 ‘사형 선고’와 같은 강력한 경고를 보낸 것이라고 합니다. 단순히 벌금을 내는 수준을 넘어, 아예 재판에서 지게 만드는 강력한 처벌이 내려진 것입니다.

“편하려고 썼다가 전재산 날린다”

이번 사건은 우리에게 시사하는 바가 큽니다. 많은 사람이 업무 효율을 높이기 위해 AI를 사용하지만, 그 결과물에 대한 책임은 온전히 사용자의 몫이라는 점입니다. 특히 변호사나 의사처럼 사람의 인생을 다루는 전문직 종사자가 AI를 맹신할 경우, 그 피해는 상상 이상으로 커질 수 있습니다. 전문가들은 “AI는 훌륭한 보조 도구일 뿐, 인간의 검토와 판단을 대체할 수는 없다”고 입을 모아 강조합니다. 앞으로 법률 시장뿐만 아니라 모든 분야에서 AI 활용 기준이 더욱 엄격해질 것으로 보입니다. “AI가 그랬어요”라는 변명은 더 이상 통하지 않는 시대가 왔습니다. 기술의 발전 속도만큼이나, 그것을 다루는 우리의 책임감도 함께 성장해야 할 때입니다.