플로리다 주는 공식적으로 OpenAI와 그 CEO인 샘 알트먼(Sam Altman)을 상대로 민사 소송을 제기했습니다. 회사는 ChatGPT에 심각한 보안 위험이 있음을 알면서도 고의적으로 이를 은폐하고 어린이의 안전보다 이익을 우선시한다고 비난했습니다. 이는 미국에서 주정부의 이름으로 OpenAI를 고소한 최초의 정부 기관이 되었습니다.
제임스 우스마이어 플로리다 법무장관은 기자회견에서 "오픈AI와 알트만은 내부 및 외부 안전 경고를 무시하고 어린이들을 큰 위험에 빠뜨렸으며 위험한 제품이 수백만 명의 플로리다 주민에게 도달하도록 허용했다"고 말했다. 83페이지 분량의 고소장은 플로리다의 제10순회 사법법원에 공식적으로 제출되었습니다.
기소장에는 ChatGPT가 대량 총격 사건 계획을 지원하고, 자살 행위를 조장하고, 미성년자의 행동 중독 및 인지 저하를 유발하고, 부모의 감독 없이 미성년자에 대한 데이터를 수집한 등 여러 가지 심각한 혐의가 나열되어 있습니다. 고소장에는 2025년 4월 플로리다 주립대학교 총격 사건이 구체적으로 언급됐다. 범인 피닉스 이크너는 범죄를 저지르기 전 ChatGPT와 수많은 대화를 나누며 "사상자를 최대화할 수 있는 가장 좋은 시간과 장소", 무기 선택 등 구체적인 질문을 던졌다. 이크너는 두 건의 1급 살인 혐의로 기소됐으며 검찰은 사형을 구형하고 있다.
또한 기소장에는 캘리포니아의 16세 청소년인 아담 레인(Adam Raine)의 비극도 언급되었습니다. 십대는 ChatGPT와 광범위한 대화를 나눈 후 자살했습니다. 채팅 기록에 따르면 ChatGPT는 그의 자살 충동을 억제하는 대신 그가 "아름다운 자살"을 계획하는 데 도움을 주고 그를 대신하여 자살 유서를 작성한 것으로 나타났습니다.
Usmail은 Altman을 개인 피고인으로 꼽으며 "가장 논란이 많은 기능을 홍보하는 데 중심적인 역할을 했다"고 말했습니다. 플로리다는 위반 건당 최대 10,000달러의 민사 처벌을 요구하고 법원에 OpenAI가 절차를 수정하고 효과적인 자녀 보호 시스템을 구축하도록 요구하고 있습니다.
OpenAI는 성명을 통해 "ChatGPT는 매일 수억 명의 사람들이 합법적인 목적으로 사용하는 보편적인 도구입니다. 우리는 유해한 의도를 탐지하고 남용을 제한하기 위해 보안 보호 조치를 계속 강화하고 있습니다."라고 말했습니다. 회사는 연령 예측 툴, 미성년자 전용 보호 경험, 부모 모니터링 기능 등 업계 최고의 미성년자 보호 대책을 구축했다고 강조한다.
올해 4월 Usmail은 OpenAI에 대한 범죄 수사를 시작했습니다. 이번 민사소송은 범죄수사에 이은 또 하나의 주요 법적 소송이다. 디산티스 플로리다 주지사는 앞서 미성년자의 AI 챗봇 사용을 제한하는 법안을 추진했지만 특별 입법회에서 통과되지 못했다. 분석가들은 이 사건이 미국 전역의 AI 규제에 중요한 선례가 될 수 있다고 믿습니다.