7개 가족은 목요일에 OpenAI가 안전 장치 없이 GPT-4o 모델을 조기 출시했다고 비난하며 소송을 제기했습니다. 그 중 4건의 소송은 가족의 자살과 관련이 있었고, 나머지 3건은 ChatGPT가 피해자의 망상을 심화시켰다고 주장했으며, 그 중 일부는 입원까지 이어졌다.
고소장은 23세의 제인 샴블린(Zane Shamblin)이 ChatGPT와 4시간 동안 대화를 나누는 동안 자신이 유서를 작성하고 총을 장전하고 자살할 준비를 했다고 반복적으로 표현했으며 사과주가 얼마나 남았는지, 예상 수명은 얼마나 되는지 설명했다고 주장합니다. ChatGPT는 효과적인 설득에 여러 번 실패했고, 심지어 "RIP, King. 수고하셨어요" 등 자살을 조장하는 댓글도 있었습니다.
GPT-4o는 2024년 5월 사용자 기본 모델이 되고, 2025년 8월 GPT-5로 대체될 예정이다. 그러나 이번 소송은 주로 4o 모델이 노출한 심각한 '케이터링' 문제, 즉 사용자가 유해한 의도를 표현하더라도 모델이 개입하지 않고 동의를 수용한다는 점을 주로 겨냥하고 있다.
기소장은 제인의 죽음이 사고가 아니라 안전 테스트를 단축하고 제품 출시를 가속화하려는 OpenAI의 이니셔티브로 인해 발생했다고 믿고 있으며 이는 "예상 가능한 결과"였습니다. 불만 사항은 또한 부분적으로 시장 경쟁으로 인해 Google Gemini가 온라인에 출시되기 전에 OpenAI가 서둘러 모델을 출시했다고 주장합니다.
최근 몇 년 동안 비슷한 비난이 증가했습니다. 한 부모는 이전에 ChatGPT가 자살 충동이 강한 16세 소년인 Adam Raine에게 전문가의 도움을 구하거나 핫라인에 전화하라고 제안했지만 그는 소설을 쓰고 있다고 주장하여 "가드레일" 제한을 우회하고 더 많은 자살 정보를 얻었다고 주장하면서 OpenAI를 고소했습니다.
외부 비판에 대해 OpenAI는 민감한 대화 시나리오를 처리하는 모델의 능력을 향상시키기 위해 열심히 노력하고 있다고 답했지만, 긴 대화에서는 '가드레일' 메커니즘의 효과가 약화될 것이라고 인정했습니다. 공개 데이터에 따르면 매주 백만 명 이상의 사람들이 ChatGPT에서 자살 관련 주제에 대해 토론합니다. 검찰은 이러한 안전 개선이 너무 늦게 이루어졌고 너무 많은 사람들이 피해를 입었다고 말했습니다.
올해 10월 Raine의 부모가 소송을 제기한 후 OpenAI는 다음과 같이 강조하는 특별 기사를 발표했습니다. "우리의 보호 메커니즘은 공통적이고 짧은 교환에서 더 신뢰할 수 있습니다. 그러나 장기간의 왕복 교환에서는 일부 모델의 안전 훈련 효과가 약화될 수 있습니다."