정책/윤리

"ChatGPT가 만든 '유령 판례' 제출?" 영국 변호사, 호된 처벌 직

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.08 07:12

기사 3줄 요약

1 영국 법원, AI 생성 가짜 판례 사용 변호사에 강력 처벌 경고
2 ChatGPT 등 생성 AI, 법률 연구 자료 신뢰성 부족 지적
3 변호사, AI 정보 정확성 교차 확인 및 윤리적 책임 강조

최근 영국 법원이 초강력 경고장을 날렸습니다. 인공지능(AI)이 내뱉은 가짜 정보를 그대로 믿고 법정에 제출한 변호사들에게 ‘호된 처벌’을 내릴 수 있다는 것입니다. 빅토리아 샤프 판사는 판결에서 ChatGPT 같은 AI는 믿을 만한 법률 자료를 만들 수 없다고 단언했습니다. 이는 AI를 무분별하게 사용하는 법조계에 대한 명확한 레드카드입니다. 생성형 AI는 마치 그럴듯한 글을 만들어내지만, 종종 ‘환각(Hallucination)’이라 불리는 오류를 일으킵니다. 이는 AI가 실제로는 존재하지 않는 정보를 진짜처럼 꾸며내는 현상을 말합니다. 법률 분야에서 이런 환각 현상은 없는 판례를 만들어내거나, 사건과 전혀 다른 내용을 인용하는 심각한 문제로 이어질 수 있습니다.

AI가 만든 가짜 판례, 법정에서 먹힐까?

실제로 영국 법원에 제출된 한 사건 자료에서는 45개의 인용 판례 중 18개가 아예 존재하지 않는 ‘유령 판례’였습니다. 다른 사건에서는 변호사가 AI가 생성한 것으로 보이는 5개의 가짜 판례를 제출하기도 했습니다. 해당 변호사는 AI 사용을 부인했지만, 검색 엔진에 나타난 AI 요약 정보를 참고했을 가능성을 언급했습니다. 이처럼 AI가 만든 가짜 정보는 법정의 판단을 흐리게 하고, 사법 시스템 전체의 신뢰를 떨어뜨릴 수 있습니다. 법원 입장에서는 변호사가 기본적인 사실 확인조차 하지 않고, AI가 만들어낸 허위 정보에 의존하는 것을 매우 심각하게 받아들이고 있습니다. 이는 단순한 실수를 넘어 법정에 대한 의무를 저버리는 행위로 간주될 수 있습니다.

판사님 화났다! 변호사들, 어떤 처벌 받게 되나?

빅토리아 샤프 판사는 이번 판결을 통해 AI 생성 정보를 사용하는 변호사들에게 엄중한 책임을 물을 것임을 분명히 했습니다. 변호사들은 AI를 연구에 활용할 수는 있지만, 그 내용을 권위 있는 출처와 비교해 정확성을 반드시 확인해야 할 직업적 의무가 있습니다. 이를 어길 경우, 공개적인 질책부터 시작해 소송 비용 부담, 법정 모독죄 적용, 심지어 경찰에 사건을 넘기는 것까지 고려될 수 있다고 경고했습니다. 특히 법정 모독죄가 인정되거나, 고의로 허위 자료를 제출해 사법 절차를 방해했다고 판단되면 형사 처벌까지 받을 수 있습니다. 이는 AI의 편리함에 기대어 기본적인 검증 의무를 소홀히 한 변호사들에게는 매우 강력한 경고입니다. 이번 판결 내용은 변호사 협회 등 관련 기관에도 전달되어 AI 사용에 대한 경각심을 높일 예정입니다.

그럼 AI, 법률 분야에서 어떻게 써야 할까?

AI 기술은 분명 법률 업무의 효율성을 높일 잠재력을 가지고 있습니다. 방대한 자료 검색이나 초기 초안 작성 등에 도움을 줄 수 있습니다. 하지만 AI는 어디까지나 보조 도구일 뿐, 변호사의 전문적인 판단과 최종적인 책임을 대체할 수는 없습니다. 법조계는 AI 사용에 대한 명확한 가이드라인을 만들고, 변호사들에게 AI의 한계와 윤리적 사용법에 대한 교육을 강화해야 합니다. AI가 생성한 정보는 항상 비판적으로 검토하고, 교차 확인하는 습관을 들여야 합니다. 결국, 기술의 발전보다 중요한 것은 법률 전문가로서의 책임감과 사법 정의의 실현이기 때문입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr