최근 미국 미시시피주 연방법원에서 터무니없는 희극이 펼쳐져 판사를 분노케 했다.본 건은 원래 일반 서비스 이용료 계약 분쟁 사건이었습니다. 그러나 원고와 피고를 대표하는 변호사 4인은 인공지능에 의존해 법률 문서를 작성했고, 그 문서는 AI가 조작한 허위 판례들로 가득 차 있었다.
재판 과정에서 판사는 문서에 인용된 판례를 확인하던 중 변칙적인 점을 발견했습니다. 많은 사례가 공식 법률 데이터베이스에 기록되지 않았습니다.
심층 조사 끝에 밝혀진 진실은 다음과 같습니다.양측 변호사는 AI 도구를 사용해 문서 작성을 완료한다. 이러한 존재하지 않는 선례는 모두 전형적인 AI "환상"에 의해 발생합니다.
청문회에서 4명의 변호사가 위반 사항을 인정했습니다. 변호사 중 한 명은 AI를 이용해 검증 없이 완전한 문서를 직접 생성했고, AI 환상을 이해하지 못했다는 이유로 자신을 변호했다. 그녀는 이전에도 비슷한 문제로 경고를 받았지만 여전히 자신의 길을 가고 있습니다. 변호사가 사용한 AI 도구는 현지 법률에 적합하지 않았습니다. 나머지 두 변호사는 동료들이 건네준 AI 문서에 직접 서명해 검토도 하지 않은 채 법원에 제출했다.
결국 법원은 엄중한 처벌을 내렸다.변호사 4명 모두 사건 변호 자격이 박탈됐다. AI를 이용해 직접 문서를 작성한 변호사 2명은 2년간 법정 출석이 금지되고 무거운 벌금도 부과됐다. 나머지 2명에게도 벌금이 부과됐고, 관련 위반 사항은 지역 변호사협회에 신고됐다..
실제로 변호사들이 판례를 조작하기 위해 AI를 남용하는 것은 새로운 일이 아닙니다. 2023년 뉴욕에서 첫 번째 전형적인 사례가 노출된 이후 유사한 사건이 해마다 늘어났다. 올해 4월 기준 전 세계적으로 관련 기록이 1,100건이 넘으며, 전 세계 법원에서 부과하는 처벌 수위도 점점 높아지고 있다.
