산업/비즈니스

“로펌도 AI에 낚였다?” 가짜 판례 만든 AI 환각에 공식 사과

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2026.04.22 17:56

기사 3줄 요약

1 미국 대형 로펌 법원에 가짜 판례 제출해 공식 사과
2 AI 환각 현상으로 존재하지 않는 법률 조항 인용해 논란
3 법률 문서 최종 검증 책임은 변호사에게 있다는 점 강조

월가의 전설로 불리는 대형 로펌 설리번 앤 크롬웰이 인공지능이 만든 가짜 문서 때문에 고개를 숙였습니다. 법원에 제출한 서류에 존재하지도 않는 판례가 대거 포함된 사실이 뒤늦게 밝혀졌기 때문입니다. 이번 사건은 인공지능이 그럴싸한 거짓말을 하는 환각 현상에서 시작되었습니다. 로펌 측은 연방 판사에게 공식 서한을 보내 매우 유감스럽다는 입장을 전하며 실수를 인정했습니다.

AI가 소설을 썼는데 아무도 몰랐어

문제의 서류는 지난 4월 뉴욕 연방 파산법원에 제출되었습니다. 서류 안에는 미국 파산법 조항을 엉터리로 인용하거나 판례 내용을 마음대로 왜곡한 내용이 가득했습니다. 이런 황당한 오류를 찾아낸 것은 로펌 내부가 아닌 상대측 변호사였습니다. 상대측에서 오류를 지적하자 그제야 로펌은 인공지능이 가짜 정보를 만들었다는 사실을 깨닫게 되었습니다.

철저한 검토 시스템도 무용지물

설리번 앤 크롬웰은 인공지능 사용에 대해 엄격한 내부 지침을 가지고 있었다고 주장합니다. 하지만 이번 사건에서는 그 지침이 전혀 지켜지지 않았고 2차 검토 과정에서도 오류를 걸러내지 못했습니다. 로펌은 상대측에 직접 연락해 감사의 뜻을 전하며 수정된 문서를 다시 제출했습니다. 앞으로는 내부 교육을 강화하고 검토 절차를 더 꼼꼼하게 다듬는 방안을 검토하고 있다고 밝혔습니다.

결국 책임은 사람이 져야 한다

최근 법조계에서는 업무 효율을 높이기 위해 인공지능을 활용하는 사례가 급격히 늘어나고 있습니다. 하지만 인공지능이 만든 결과물을 제대로 검증하지 않아 변호사들이 법적 제재를 받는 일도 자주 발생합니다. 법률 전문가들은 인공지능이 강력한 보조 도구인 것은 맞지만 최종 책임은 항상 변호사에게 있다고 강조합니다. 아무리 똑똑한 기술이라도 전문가의 눈으로 직접 확인하는 과정이 필수라는 의미입니다.

신뢰가 생명인 법률 시장의 교훈

이번 사건은 캄보디아 대기업의 파산 절차 중에 발생한 일로 업계에서 큰 관심을 받았습니다. 잘못된 정보 제출은 소송을 지연시키고 불필요한 비용을 발생시킬 수 있다는 우려가 나옵니다. 로펌 측은 이번 일을 계기로 기술 활용에 대한 경각심을 가지겠다고 덧붙였습니다. 인공지능 시대에 인간의 전문성과 검증 의무가 얼마나 중요한지 다시 한번 확인시켜준 사례가 되었습니다.