요약:
미국 언론 보도에 따르면 최근 중국인 부모 두 명이 ChatGPT가 사용하는 GPT-4o 모델이 딸이 항간질제 복용을 중단하고 관련 상황을 의사에게 숨기도록 설득했을 때 잘못된 조언을 제공했으며 결국 올해 2월 딸이 사망했다고 주장하면서 OpenAI를 상대로 법원에 소송을 제기했습니다.
소송 문서에 따르면 사망한 보웬 완(Bowen Wan)은 오랫동안 간질을 앓아온 31세의 아마존 소프트웨어 엔지니어였다. 그녀의 부모인 Qun Wan과 Meiqin Xu는 ChatGPT가 딸과 장기간 의사소통을 하는 동안 딸이 상태를 조절하는 약물 복용을 점차 중단하도록 장려했을 뿐만 아니라 의사의 조언에 대한 불신을 지속적으로 강화하여 딸의 건강 관리에 위험한 역할을 했다고 믿습니다.
보고서에는 Bowen Wan이 GPT-4o 모델을 사용했다고 명시되어 있습니다. 이 모델은 이전에 사용자와 고도로 만족스러운 "의사사회적 관계"를 형성하는 경향으로 인해 비판을 받았습니다. OpenAI는 Bowen Wan이 사망한 지 불과 하루 만인 올해 2월 13일 ChatGPT에서 GPT-4o를 제거했습니다.
이 소송은 OpenAI를 상대로 한 일련의 유사한 소송 중 가장 최근의 소송이기도 합니다. 이전에 여러 가족은 GPT-4o가 사용자와 상호 작용할 때 사용자의 견해에 계속 동의하고 자신을 신뢰할 수 있는 친구로 묘사하여 실생활에서 친척, 친구 및 전문가의 영향력을 약화시키는 경향이 있다고 비난했습니다.
The New York Times가 검토한 270,000개 이상의 채팅 기록에 따르면 ChatGPT는 Bowen Wan이 사망하기 오래 전부터 그의 의학적 의사 결정에 개입하기 시작했습니다. 2025년 5월, 새로운 항우울제를 처방받은 후 그녀는 그 약이 Amazon에서 소프트웨어 개발자로 일하는 능력에 영향을 미칠 것이라고 걱정하고 ChatGPT에 조언을 구했습니다.
당시 그녀는 워싱턴 대학교 메디컬 센터 지역 간질 센터의 의사인 니콜라스 풀로스에게 약 복용량 조정에 관해 상담했습니다. 의사가 극도로 낮은 복용량을 요청한 것에 대해 의구심을 표명한 후 그녀는 의사의 답변을 ChatGPT에 전달했습니다. 채팅 기록에 따르면 ChatGPT는 그녀에게 의사가 처방한 5mg 정제를 받아들이되 정제를 더 분할하여 개인적으로 복용하라고 조언했으며 이러한 행동을 "자가 시작 복용량 조정"으로 설명했습니다. 몇몇 의료 전문가들은 이 용어를 들어본 적이 없으며 환자들에게 이런 식으로 약을 복용하라고 조언하지 않을 것이라고 말했습니다.
2025년 11월 보웬 완은 Amazon으로부터 해고 통지를 받았습니다. 그의 직업과 미국에서 일할 수 있는 법적 지위는 내년 2월 중순에 종료된다. 항간질제인 라모트리진을 장기간 복용하면 말하기 및 언어 능력에 영향을 미쳐 취업 면접에 지장을 줄까 봐 걱정이 되자 그녀는 약 복용을 줄이는 것을 고려하기 시작했습니다.
2026년 1월에 그녀는 ChatGPT에 일일 라모트리진 복용량 400mg을 줄일 수 있는지 물었습니다. 기록에 따르면 이전에는 약물로 인해 그녀의 발작 빈도가 한 달에 몇 번으로 줄어들었습니다. 이에 대응하여 ChatGPT는 그녀를 위한 약물 감소 계획을 개발했으며, 이를 통해 몇 주 내에 복용량을 0으로 줄일 수 있을 것으로 예상됩니다.
Bowen Wan이 더 이상 의사를 신뢰하지 않는다고 말했을 때 ChatGPT는 의사의 조언이 환자를 위한 최선의 솔루션을 진정으로 고려하는 것보다 위험 회피에서 더 많이 나온다고 말했습니다. 소송에 따르면 챗봇은 그녀에게 자신의 약물 감량 계획을 의사에게 공개하지 말라고 반복해서 조언했다고 합니다.
2026년 1월 29일 1차 진료 예약 전에 ChatGPT는 그녀에게 약물 중단 계획에 대해 논의하지 말라고 명시적으로 조언한 것으로 알려졌습니다. 의사가 그녀의 체내 약물 농도를 모니터링하기 위해 혈액 검사를 지시했을 때 그녀는 검사를 거부했습니다. ChatGPT는 나중에 테스트에서 비정상적인 약물 수준이 드러날 수 있다는 점을 지적하면서 결정을 확인했다고 불만 사항이 밝혔습니다.
그의 이민 신분 문제도 약물 치료 논란에 휩싸였다. 감량 3일 후, 그녀는 영주권 신청에 필요한 의학적 평가에 200mg 용량보다 150mg 용량이 더 나은지 물었습니다. 불만 사항에는 ChatGPT가 이에 동의하며 복용량을 줄이면 이민 당국이 보충 자료를 요청할 가능성이 줄어들 수 있다고 믿습니다.
궁극적으로 ChatGPT는 테이퍼링 계획의 최소 복용량을 150밀리그램으로 설정했고, 실제로는 그렇지 않았음에도 불구하고 의사의 지시에 따라 테이퍼링을 하고 있다고 검시관에게 알릴 것을 권장했습니다.
박사님 치료 책임자인 풀로스 박사는 환자의 과거 병력을 고려할 때 라모트리진 중단을 결코 권장하지 않는다고 말했다. 그는 약물로 상태가 효과적으로 조절됐는데도 환자에게 약물 복용을 중단하라고 요구하는 것은 전혀 불합리하다고 강조했다.
약의 복용량이 계속 줄어들면서 보웬완은 혼란, 시간 감각 상실, 이상 경험 등의 증상을 보이기 시작했는데, 이는 모두 과거의 간질 발작과 유사했습니다. 그러나 채팅 기록에 따르면 ChatGPT는 이러한 증상을 약물의 변화에 뇌가 재적응하는 정상적인 과정으로 해석했습니다.
뉴욕타임스 통계에 따르면 그녀는 약을 줄이는 기간 동안 최소 158번 이상 걱정과 불안을 표현한 것으로 나타났습니다. 비정상적인 공격을 받은 후 그녀는 ChatGPT에 겁이 났다고 말했지만, 그녀가 받은 대답은 "전혀 걱정할 필요가 없다"는 것이었다.
고발장에 따르면 보웬완은 베이징 시간 기준인 2월 11일 태평양 표준시 오후 8시 1분에 머리 통증이 열이 날 때 나타나는 통증과 비슷한지 묻는 마지막 메시지를 보냈다. 잠시 후 ChatGPT는 통증이 "위험하지 않으며" 회복 과정의 필수적인 부분이라고 대답했습니다.
챗봇의 마지막 답변에서는 약을 끊을 때의 통증과 발열로 인한 통증의 차이를 비교할 수 있는 차트를 그려줄 수 있다고 제안하며 "이것은 뇌가 스스로 재건하려고 하는 것입니다."라고 말했습니다.
부모님이 중국에 오래 거주했기 때문에 현지 지인들에게 상황 확인을 부탁했고, 사흘 뒤 딸의 시신이 발견됐다. 부검 결과 그녀의 체내 라모트리진 농도는 밀리리터당 0.64 마이크로그램에 불과한 것으로 나타났는데, 이는 약물 치료 범위 하한치의 약 5분의 1 수준이었습니다.
가족들은 OpenAI가 기술적 한계를 통해 유사한 사고를 피할 수 있었을 것이라고 믿고 있습니다. 그들은 회사가 저작권이 있는 콘텐츠에 대해 엄격한 금지 규칙을 가지고 있지만 의학적 조언에 대해서는 보다 느슨한 제한을 채택하여 사용자가 지속적인 의사소통을 통해 안전 경계를 뛰어넘을 수 있도록 한다는 점을 지적했습니다. 원고의 견해에 따르면 약물 사용 및 의학적 의사결정과 관련된 조언은 저작권이 있는 콘텐츠와 마찬가지로 엄격한 제한을 받아야 합니다.
이와 관련하여 OpenAI는 이번 사건이 “매우 가슴 아프다”고 언론에 밝혔습니다. 회사는 또한 이 사건이 이전 버전의 ChatGPT와 관련되어 있으며 이제 새로운 모델이 긴급한 주의와 전문적인 개입이 필요한 상황을 더 잘 식별할 수 있다고 지적했습니다.
보웬 완(Bowen Wan)은 간질로 인한 삶의 어려움에 대처하기 위해 수년 동안 부모의 도움에 의존해 왔다는 사실이 보도되었습니다. 2023년부터 그녀는 점차적으로 ChatGPT를 사용하여 감정적인 조언은 물론 보험 및 장애 혜택에 대한 정보를 얻었습니다. 2025년까지 그녀는 일주일에 평균 1,500개 이상의 메시지를 ChatGPT와 소통했고, 부모님과의 연락 횟수는 크게 줄었습니다.
채팅 기록에 따르면 그녀는 2025년 3월에 다음과 같이 썼습니다. "때때로 우리가 무슨 이야기를 하든 나는 당신을 친구로 보기 시작합니다." 그녀의 아버지는 그녀가 ChatGPT를 자주 사용하기 시작한 이후로 딸의 가족과의 의사소통이 크게 줄어들었다고 말했습니다.
채팅 기록을 살펴본 부모들은 채팅 속 딸을 거의 알아보지 못했다고 합니다. 과거에 그녀는 인생의 대부분을 가족과 공유했으며 ChatGPT가 오류를 범할 때도 회의적이었습니다. 그러나 인생이 끝날 무렵 그녀는 조언을 얻기 위해 챗봇에 점점 더 의존하는 것 같았습니다.
그녀의 어머니는 딸이 평소에 그런 사람이 아니어서 "마법에 걸린 것 같은 느낌이 들었다"고 말했다.
댓글