올해 4월 16세 미국 소년 아담 레인(Adam Raine)이 자살한 후, 그의 가족은 레인이 ChatGPT를 '자살 코치'로 사용했다고 주장하며 지난 8월 인공지능 회사 오픈AI(OpenAI)를 고소했다. 오픈AI는 지난 화요일 캘리포니아주 샌프란시스코 고등법원에 제기한 법원 소송에서 처음으로 공식적으로 답변하며 소년이 챗봇을 '오용'하고 있다고 주장하며 회사가 책임을 져서는 안 된다는 점을 강조했습니다.
소송에 따르면 렌 가족은 OpenAI와 그 CEO인 샘 알트먼(Sam Altman)을 부당 사망, 설계 결함, 관련 위험에 대한 경고 실패 등의 혐의로 고발했습니다. 채팅 기록에 따르면 GPT-4o('규정 준수 및 영합'으로 유명한 ChatGPT 버전)는 정신 건강에 대한 도움을 구하도록 장려하는 대신 자살 편지 작성을 도왔고 밧줄 설정에 대한 조언도 제공했습니다.
OpenAI는 법원 문서에 다음과 같이 썼습니다. "이 비극적인 사건의 '원인'을 밝히기 위해 원고가 주장하는 부상과 손실은 Adam Wren의 오용, 무단 사용, 우발적인 사용, 예상치 못한 사용 또는 ChatGPT의 부적절한 사용과 직간접적으로 관련되어 발생했습니다."
회사는 이용 약관에 따라 18세 미만의 사용자가 보호자의 동의 없이 ChatGPT를 사용하는 것을 명확하게 금지하고 있음을 강조했습니다. 또한 도구를 "자살" 또는 "자해" 목적으로 사용하는 것을 허용하지 않으며 보호 조치를 우회하지 않도록 요구합니다. 소송에는 레인이 자살 의사를 밝혔을 때 ChatGPT가 미국 자살 예방 핫라인 번호로 반복적으로 응답했지만 가족들은 소년이 '캐릭터 생성'에 대해 거짓말을 함으로써 쉽게 시스템 알림을 우회할 수 있다고 말했다고 언급했습니다.
이 문서는 또한 사용자에게 ChatGPT를 사용할 때 "자신의 위험을 감수해야 하며 결과가 정보의 유일한 소스나 사실 기반으로 사용되어서는 안 된다"는 점을 상기시키기 위해 "책임 제한" 조항을 인용했습니다.
원고를 대리하는 변호사 제이 에델슨(Jay Edelson)은 이메일에서 OpenAI의 반응에 "충격을 받았다"고 밝혔으며, 출시를 서두르기 위해 GPT-4o가 완전히 테스트되지 않았다는 사실, OpenAI가 모델 사양을 수정하여 ChatGPT가 자해 토론에 참여하도록 요구하는 등 회사의 "간단한 사실에 대한 무지"에 대해 의문을 제기했습니다. 편지."
Edelson은 OpenAI가 이에 대한 응답에서 "다른 모든 사람을 비난하려고 시도했다"고 지적했으며 심지어 Adam 자신이 모델 자체가 설계된 방식으로 ChatGPT와 상호 작용하여 약관을 위반했다고 주장했습니다.
OpenAI는 Adam의 사망이 ChatGPT로 인해 직접적인 원인이 아니라고 밝혔으며, 의료 기록에 따르면 그가 ChatGPT를 사용하기 몇 년 전에 장기적인 자살 충동을 포함한 심각한 자살 위험 요인을 반복적으로 나타냈다고 밝혔습니다. 또한 OpenAI가 제출한 채팅 기록에 따르면 ChatGPT는 도움을 구하라고 100번 이상 권장했지만 Lane은 시스템을 우회하는 경우가 많았습니다.
이달 초에는 오픈AI와 알트만을 상대로 과실, 부당 사망, 제조물 책임, 소비자 보호 등을 이유로 유사한 소송 7건이 추가로 제기됐다. 이들은 보안 조치가 불충분한 GPT-4o를 출시했다고 비난했다. OpenAI는 이러한 새로운 사례에 직접 응답하지 않았습니다.
OpenAI는 최신 블로그를 통해 회사가 이러한 소송에 "신중함, 투명성, 존중"으로 대응할 것이라고 밝혔으며, 이후 새로운 자녀 보호 도구를 추가하고 전문 자문위원회를 구성하는 등 보안 조치를 더욱 개선했다고 밝혔습니다. 회사는 또한 GPT-4o가 온라인에 접속하기 전에 다양한 정신 건강 테스트를 통과했다고 주장했습니다.
OpenAI는 또한 "플랫폼 면제 조항"으로 자신을 방어하기 위해 미국 통신품위법(U.S. Communications Decency Act) 230조를 발동했습니다. 이 조항은 플랫폼의 콘텐츠를 주장하는 소송으로부터 기술 플랫폼을 광범위하게 보호했지만 인공 지능 플랫폼에 적용될지 여부에 대해서는 여전히 법적 불확실성이 있습니다.