법정 휘젓는 AI 환각 판례

김세라 변호사

의뢰인들이 찾아 가져온 판례나 법률 정보들이 실제로는 존재하지 않거나 잘못된 정보인 일은 이제 하루 이틀 일이 아니다. 특히 챗지피티에 물어 얻어낸 판례는 실제로 없는 AI 환각(Hallucination) 판례인 경우가 매우 많다. AI 환각이란 인공지능이 그럴듯하지만 실제로는 존재하지 않거나 사실과 다른 정보를 생성하는 현상을 의미한다. AI는 진실을 판단하거나 검증하는 능력이 없으며, 단지 다음에 올 텍스트가 얼마나 자연스럽고 그럴듯한지만 예측하여 생성하기 때문에 매끄럽고 설득력 있어 보이는 정보도 사실과 다를 가능성이 있다. 문제는 요즘 법원과 수사기관에서 변호사나 경찰이 이런 환각 판례를 그대로 법률서면에 사용하는 일이 벌어지고 있다는 것이다.

얼마 전 한 변호사가 AI가 만든 허위 판례를 인용한 서면을 법원에 제출했다가 적발되는 사건이 발생했다. 해당 법원의 형사재판부는 이 변호사가 제출한 의견서에 인용된 판결 5개를 법원 전산망에서 조회한 결과, 해당 판결이 존재하지 않는 것을 확인했다. 해당 변호사는 다음 기일이 열리기 전 문제가 된 판례를 철회한다는 의견서를 냈지만 법률전문가인 변호사가 AI 환각 현상이 만든 가짜 판례를 검증하지 않고 법원에 제출했다가 발각된 것이다.

경찰이 불송치 결정문에 AI 허위 판례를 인용한 사건도 있었다. 경기도의 한 경찰서에서 작성한 아동복지법 위반 사건의 불송치 결정문은 일시적이거나 단편적인 언행만으로는 아동의 정신 건강 및 발달에 해를 끼친다고 단정하기 어렵고, 반복성·지속성 및 구체적인 피해 정황이 인정되어야 한다”라는 대법원과 서울북부지법 판결문을 인용했는데 고소인 측이 확인한 결과 해당 문장은 판결문에 없는 내용이었다.

행정심판에서도 이런 일이 벌어지고 있다. 지난 9월 부당해고를 당해 울산지방노동위원회에 구제신청을 낸 부당해고 사건에서 청구인은 상대방 회사 측 공인노무사가 제출한 답변서에 인용한 전체 법원 판례 10건의 원문을 하나도 찾을 수 없었다. 10건의 판례엔 존재하지 않는 판례 번호가 달려 있었다. 청구인 측이 판례의 진위를 따지자, 해당 노무사는 그제야 AI가 만들어준 판례였다고 시인했다. 노무사는 “사실관계를 조작하지 않았으니, 고의나 허위는 아니”라고 주장하고 있지만 청구인 측은 허위 판례를 인용한 노무사의 노무사법 위반 여부를 조사해달라며 고용노동부에 민원을 제기했다.

관련 분야 전문직종에서조차 이런 일이 발생하고 있으니 일반 민원인들이 내는 서류에 이런 환각판례와 허위정보가 얼마나 많을지 짐작이 된다. 법률전문가가 낸 서면에서도 환각 판례를 인용했으나 발각되지 않은 경우도 많을 것이다. 점점 사람들은 AI를 좋아하고 의존한다. 하지만 법률 분야에서의 이런 일들을 지금 적절히 규제하지 않으면 법률절차와 우리 사법체계에 대한 신뢰성 자체가 흔들리게 될지도 모른다. 변호사가 쓴 서면과 판사의 판결문을 신뢰하지 않게 되는 것 말이다. 환각판례 인용에 대한 규제가 필요하다. 변호사협회에서도 변호사들이 보조도구로서만 AI를 적절히 사용할 수 있도록 가이드라인을 마련해 주었으면 한다.

/김세라 변호사 

△고려대 법과대학, 이화여대로스쿨 졸업 △포항 변호사김세라법률사무소 대표변호사