없는 판례를 인용했다 — AI 허위 서면의 대가

소장에 판례 하나가 적혀 있다. 사건번호도 있고, 판시 내용도 그럴듯하다. 그런데 그 판결은 세상에 존재하지 않는다. 생성형 AI가 만들어 낸 '환각'이다. 최근 이런 허위 판례를 소송서류에 그대로 옮겨 담았다가, 법원이 판결문에 직접 그 문제를 지적하는 사례가 등장하고 있다.

한 판결문은 이를 두고 "원고는 의도적으로 허위 판례를 인용해 적극적으로 법원을 기망하려 한 것으로 보이고 불법성이 매우 중대하다"고 명시했다. AI가 지어낸 한 줄이 소송 당사자의 신뢰 자체를 무너뜨린 셈이다.

AI가 판례를 '지어낸다'는 게 무슨 뜻인가

생성형 AI는 질문에 그럴듯한 답을 내놓도록 설계돼 있다. 문제는 존재하지 않는 정보도 형식만 완벽하게 만들어 낸다는 점이다. 실제로는 없는 사건번호, 없는 법원, 없는 판시 내용을 실제 판례처럼 조합한다. 이를 '환각(hallucination)'이라 부른다.

법률 검색에 익숙하지 않은 사람이 AI에게 "내 주장에 유리한 판례를 알려 달라"고 하면, AI는 없는 판례를 만들어서라도 답을 준다. 이용자가 원문을 확인하지 않고 그대로 서면에 붙이면, 허위 판례가 법원에 제출되는 것이다.

가짜 판례를 인용하면 처벌받나요?

핵심은 '고의'와 '적극성'이다. 우리 법은 법원을 속여 유리한 재판 결과를 얻으려는 행위를 소송사기로 다룬다. 허위 증거나 허위 주장을 적극적으로 동원해 법원의 판단을 그르치려 했다면, 사실관계에 따라 사기죄의 문제가 될 수 있다는 것이 일반적인 이해다.

다만 판례를 잘못 인용했다고 곧바로 범죄가 되는 것은 아니다. 법리 해석이 갈리거나, 인용이 부정확한 경우는 흔하다. 문제가 되는 지점은 '존재하지 않는' 판례를, 그것이 허위임을 알았거나 최소한의 확인도 없이 법원을 오도할 정도로 활용한 경우다. 앞서 인용된 판결문이 '의도적'과 '적극적'이라는 표현을 쓴 이유도 여기에 있다.

민사적으로도 대가가 따른다. 부적절한 소송 수행으로 평가되면 소송비용 부담이나 신뢰도 하락으로 이어질 수 있고, 변호사가 작성했다면 성실의무 위반이라는 별개의 문제가 생긴다.

실수와 기망은 어디서 갈리나

법원이 주목하는 것은 결과가 아니라 태도다. 첫째, 허위임을 알고도 제출했는지다. 둘째, 지적을 받은 뒤 즉시 정정하고 사과했는지, 아니면 존재하지 않는 판례를 끝까지 진짜라 우겼는지다. 셋째, 그 인용이 재판 결과를 좌우할 만큼 핵심 쟁점에 쓰였는지다.

단순히 AI를 썼다는 사실만으로 문제가 되지는 않는다. AI는 초안 작성이나 자료 탐색의 도구일 수 있다. 그러나 그 산출물을 검증 없이 법원에 제출하는 순간, 책임은 도구가 아니라 제출한 사람에게 돌아간다.

그래서 어떻게 걸러내나

제출 전 한 가지만 지키면 대부분의 위험이 사라진다. 인용하려는 모든 판례를 공식 판례 검색 시스템에서 사건번호로 직접 조회하는 것이다. 원문이 뜨지 않으면 쓰지 않는다. 판시 내용까지 눈으로 대조해, AI가 요약한 문장이 실제 판결과 일치하는지 확인한다.

의뢰인이라면 대리인에게 'AI가 만든 판례가 아닌지' 물어볼 권리가 있다. 대리인이라면 AI 산출물에 대한 검증 절차를 사무실 내부 규칙으로 두는 편이 안전하다. 없는 판례 한 줄의 대가는, 그 한 줄로 얻을 이익보다 언제나 크다.