2025년 새해 첫날 로스앤젤레스 팰리세이즈 지역에 심각한 산불이 발생해 도시 역사상 가장 치명적인 산불 중 하나로 기록됐다. 당국은 조나단 린더크네히트(Jonathan Rinderknecht)를 방화 혐의로 기소했습니다. 재판 과정에서 그들은 그가 화재 현장 근처에 있었고 방화에 가담했음을 입증하기 위해 그의 아이폰 위치 데이터, 주변 감시 비디오, 목격자 진술을 확보했습니다. 전통적인 증거와 함께 ChatGPT를 사용한 채팅 기록과 이미지 생성 기록이 법원에 제출되었는데, 이는 형사 사건에서는 아직 드물다.
재판에 따르면 린드크네히트는 ChatGPT에게 '불'과 관련된 이미지를 생성해 달라고 요청했고, 챗봇에게 '왜 항상 그렇게 화를 내는가'라고 불평했다. 또한 그는 대화에서 부유한 사람들이 "세상을 망치고 있다"고 비난하며 소리를 지르고 ChatGPT에 누군가의 담배로 인해 화재가 발생했는지, 그 사람이 책임을 져야 하는지 물은 것으로 알려졌습니다. 검사는 이를 이용하여 피고인의 정신상태와 동기를 형성하려 하였는데, 이는 피고인이 불길에 대해 비정상적으로 집중하고 있으며 사회적 불의에 대해 강한 반감을 갖고 있음을 암시합니다.
그러나 ChatGPT 채팅 기록을 중심으로 한 이 주장은 배심원단을 설득하지 못했습니다. 배심원단은 최종 투표에서 변호인에게 10대 2로 찬성표를 던졌고, 평결은 교착 상태에 빠진 것으로 알려졌다. 미국 형사 사법 제도에서 주요 사건은 배심원들이 만장일치 또는 거의 만장일치에 가까운 평결을 내려야 하는 경우가 많으며, 교착 상태는 명확한 유·무죄 판결을 내릴 수 없음을 의미합니다. 그런 다음 판사는 배심원이 "분열"되었다고 선언하고 법에 따라 "배심원 교착 상태"라고 판결하고 잘못된 판결을 선고했습니다.
한 배심원은 지역 방송인 CBS LA에 ChatGPT 기록이 실질적인 증거가 되지 않는다고 생각한다고 말했습니다. 그녀는 "ChatGPT와 많은 대화를 나눴다"고 고백했으며, 채팅 기록에서 성격 결함을 추론하려는 검찰의 시도가 "짜증난다"고 말했다. 그녀의 견해로는 챗봇과의 상호작용은 이미 평범한 사람들의 일상생활의 일부가 되었고, 이러한 로그만으로는 범죄성향 여부를 판단하는 근거로 사용하기 어렵다고 봅니다.
이 사건은 사법 시나리오에서 인공지능 도구의 사용에 대한 새로운 논란을 반영합니다. 한편으로는 검찰과 수사기관이 개인 기기 데이터, 온라인 활동 기록, 심지어 AI와의 상호 작용 콘텐츠까지 잠재적인 증거 소스로 간주하는 경향이 점점 더 커지고 있습니다. 반면에 대중과 배심원들은 이러한 데이터를 어떻게 해석해야 하는지, 그리고 그것이 진정한 동기와 행동을 적절하게 반영하는지에 대해 여전히 강한 의구심을 가지고 있습니다. Palisades 산불 사건에서 ChatGPT 기록은 유죄 판결의 열쇠를 쥐는 데 실패했으며 대신 검찰의 증거 전략에 대해 배심원들 사이에 분노를 불러일으켰습니다.
생성 AI가 점점 더 일상적인 사용에 통합됨에 따라 앞으로 더 많은 사례에서 유사한 논쟁이 반복될 가능성이 높습니다. 사법 시스템이 '일상 채팅'과 '위험 신호'를 어떻게 구별하는지, 기술 사용자에 대한 일반화된 낙인을 어떻게 피할 것인지는 법과 기술의 교차점에서 시급한 대응이 필요한 현실적 문제가 될 것입니다.