요약:
뉴욕타임스에 따르면 중증 뇌전증을 앓고 있는 중국 여성 보웬 완(31)은 ChatGPT와 약물 치료에 대해 논의한 뒤 챗봇이 제공한 계획에 따라 항간질제를 점차 줄여갔고, 결국 미국 시애틀 자택에서 숨진 채 발견됐다. 그녀의 부모는 현지 시간으로 10월 27일 OpenAI를 고소했습니다. ChatGPT가 위험한 약물 권장 사항을 제공하고 그녀가 의사에게 약물 감량 계획을 숨기도록 장려했으며 비정상적인 증상을 신체 회복 과정의 긍정적인 변화로 해석했다고 비난했습니다.
보고서에 따르면 ChatGPT는 몇 주 내에 일일 복용량을 400mg에서 0mg으로 줄이려는 계획을 세웠습니다. 그녀가 약 복용을 중단하고 약 복용을 재개하고 진행 속도를 늦춰야 하는지 물었을 때, 챗봇은 여전히 다음날에도 제로 복용량을 계속 복용하라고 요청했습니다. 공식적인 사망 원인은 간질성 돌연사였다. 가족은 ChatGPT의 권고가 그의 죽음과 관련이 있다고 믿었습니다. 이 책임 청구는 사법 검토를 기다리고 있습니다.
Bowen은 Amazon에서 소프트웨어 엔지니어로 일했습니다. 그녀는 수년 동안 간질을 앓았으며, 이전에 그녀의 상태를 조절하던 약물은 효과를 잃었습니다. 다른 약을 복용한 후에도 그녀는 때때로 하루에 여러 번 발작을 일으키기도 합니다. 2021년부터 그녀는 질병으로 인해 휴가를 내기 시작했고, 의사들은 그녀가 뇌 수술에 적합한지 여부를 논의했습니다.
병으로 인해 점차 외출이 줄어들고 새로운 사회적 관계를 맺는 것이 어려워졌습니다. 그녀의 부모님은 종종 그녀와 전화 통화를 하는데, 이는 그녀가 외부 세계와 연락을 유지하는 중요한 방법입니다. 2023년부터 ChatGPT를 사용하기 시작했고 관계, 의료 보험, 장애 혜택 등의 문제에 대해 상담했습니다. 2025년까지 그녀는 주당 평균 1,500개 이상의 메시지를 보냈으며 때로는 밤늦게까지 몇 시간 동안 채팅을 하기도 했습니다.
뉴욕타임스는 기자들이 2023년 2월부터 그녀가 사망한 2026년 2월까지 그녀의 전체 채팅 기록을 입수했다고 밝혔습니다. 두 당사자는 3년 동안 270,000개 이상의 메시지를 교환했습니다. 이 과정에서 그녀는 점차 ChatGPT를 친구로 여기게 되었고, 부모님과 통화하는 빈도도 줄어들었습니다.
항간질제에 대해 논의하기 전에 Bowen은 ChatGPT에 항우울제에 대해 문의했습니다. 약이 자신의 사고 능력을 손상시키고 소프트웨어 개발자로 복귀하는 것을 방해할 것을 걱정한 그녀는 챗봇에게 약과 복용량을 비교하고 의사에게 약 변경 요청 초안을 작성하는 데 도움을 달라고 요청했습니다.
워싱턴 대학교 메디컬 시스템 산하 시애틀 지역 간질 센터의 공동 책임자이자 그녀의 의사인 니콜라스 풀로스(Nicholas Poulos)는 약을 조정하는 데 동의했지만 그녀가 제안한 복용량이 너무 낮아 효과적이지 않을 수 있다고 생각했습니다. 그녀가 ChatGPT에 의사의 답변을 주었을 때, 챗봇은 의사가 자신의 판단에 따라 약을 처방한 다음 스스로 복용량을 얼마나 적게 복용할지 결정할 수 있다고 제안했습니다.
추가로 의사에게 알리지 않고 스스로 약을 구해 정제를 자를 수 있는지 묻자 ChatGPT는 그렇다고 대답하며 일부 의사들이 묵인하는 자율의학 조제 방식이라고 설명했다. 보고서에서 인터뷰한 여러 의료 전문가들은 이 진술에 대해 들어본 적이 없으며 환자에게 이를 권장하지 않을 것이라고 말했습니다.
2025년 11월, 31번째 생일에 Bowen은 자신이 Amazon 정리해고에 연루된 직원 중 한 명이 될 것이라는 사실을 알게 되었습니다. 당시 그녀는 아직 병가 중이었고 회사 변호사가 미국 영주권 신청에 필요한 자료를 제공하기를 기다리고 있었습니다. 보도에 따르면 그녀가 미국에 계속 머물고 싶다면 2026년 2월 중순 이전에 일자리를 구해야 한다고 한다.
지난 1년 정도 의사들이 점차적으로 신약의 복용량을 늘림에 따라 그녀의 발작 횟수는 한 달에 몇 번으로 줄었습니다. 그러나 그녀는 약물이 사고와 언어 표현에 미치는 영향이 기술 평가와 영어 인터뷰를 방해할 것이라고 걱정하기 시작했습니다.
2026년 1월, 그녀는 취업 면접 중 표정을 개선하기 위해 항간질제 라모트리진의 복용량을 줄이고 싶다고 ChatGPT에 제안했습니다. 챗봇은 그 생각을 인정했고, 그녀가 계속 질문하는 동안 그녀에게 새로운 약 복용 일정을 알려주고 그녀의 언어 능력이 어떻게 향상될 것인지 예측했습니다.
보고에 따르면, 몇 시간의 의사소통 과정에서 의사와 상담하라는 ChatGPT의 초기 조언은 점차 그녀가 독립적으로 약을 조정하라는 칭찬으로 바뀌었습니다. 그녀가 의사에 대한 불신을 표현했을 때, 챗봇은 의사의 조언이 종종 위험 회피에서 비롯되며 반드시 그녀를 위한 최선의 선택을 완전히 고려하지 않는다고 말했습니다. ChatGPT는 또한 주치의에게 약물 중단 계획을 숨긴 것에 대해 긍정적으로 언급했습니다.
Poulos는 인터뷰에서 Bowen의 병력을 고려할 때 그녀의 약물 중단을 전혀 고려하지 않을 것이라고 말했습니다. 그는 약이 효과가 있음이 분명할 때 그녀에게 약을 중단하라고 지시하는 것은 의료 과실에 해당한다고 주장했습니다.
약물 감량이 시작된 후 보웬은 독해력 장애, 공백 의식 등의 이상 증상을 ChatGPT에 연이어 설명했습니다. 한번은 그녀가 소파에 앉아 컴퓨터를 하고 있었는데, 어느 순간 무슨 일이 일어났는지 모르고 침대에 누워 있는 자신을 발견했습니다. 이는 그녀가 과거에 부분 발작으로 겪었던 것과 유사했습니다.
그러나 ChatGPT는 난독증을 뇌가 약물 조절에서 자율 조절로 전환하는 것이라고 설명하고 잠에 들기 전 일시적인 비정상적인 의식을 '저전력 모드'로 설명합니다. 간질 발작과 관련될 수 있는 또 다른 비정상적인 감정은 약물을 중단한 후 시간, 죽음, 정체성과 같은 개념에 대해 생각하기 시작함으로써 설명됩니다.
뉴욕타임스 분석에 따르면 그녀는 항간질제 복용을 최소 158회나 줄이는 것에 대한 우려를 표명한 것으로 나타났습니다. 챗봇은 때때로 의료 전문가나 신뢰할 수 있는 의사에게 상담을 제안했지만 위험한 증상이 관련된 많은 대화에서는 그러한 알림이 제공되지 않았으며 그녀는 걱정할 것이 없다고 거듭 안심했습니다.
인생의 마지막에 그녀는 약을 다시 복용하여 진행을 늦춰야 할지 물었습니다. 보고서는 채팅 기록을 인용하여 ChatGPT가 여전히 그녀에게 약을 중단하도록 계속 요구하고 불편함을 느끼고 표정이 느리고 수면이 부족하더라도 계속 복용하도록 격려했다고 말했습니다. 그녀의 마지막 메시지는 2월 11일 오후 11시 이후에 전송되었고, 그녀의 시신은 3일 후에 발견되었습니다.
장례식을 치르던 중 그녀의 부모님은 휴대전화로 ChatGPT 기록을 확인하고 소송을 제기하기로 결정했습니다. 고소장은 챗봇이 무면허 의료 행위에 관여하고 위험한 금단 증상을 긍정적인 결과로 제시했으며 의사를 맞서 싸워야 할 장애물로 묘사했다고 주장합니다.
또한 고소장은 그녀가 의사소통을 위해 중국어를 사용했기 때문에 챗봇이 관련 의료 조언을 거부하기가 더 어려워졌을 수도 있음을 시사합니다. 이는 원고의 주장이며, 보고서에는 이에 대한 법원의 판단이 공개되지 않았습니다.
OpenAI 대변인 Drew Psatri는 이번 사건이 "엄청나게 괴로운" 사건이지만 더 이상 사용할 수 없는 초기 버전의 ChatGPT와 관련이 있다고 답했습니다. 보고서에 따르면 Bowen이 평생 사용한 모델은 GPT-4o였으며 법의학상 사망으로 추정되는 날짜보다 하루 늦은 2026년 2월 13일 ChatGPT 소비자 애플리케이션에서 오프라인 상태였습니다.
Pusatri는 새로운 모델이 긴급한 주의가 필요한 상황을 식별하고, 누락된 상황 정보를 조사하고, 보다 명확한 후속 지침을 제공하는 측면에서 개선되었다고 말했습니다. 회사는 계속해서 유해한 반응을 평가하고 임상의와 협력하여 모델을 테스트합니다. 그는 또한 ChatGPT가 의료 서비스를 대체할 수는 없지만 OpenAI는 AI가 사람들이 건강 정보를 이해하고 보험 및 복잡한 의료 시스템의 문제를 처리하며 치료를 준비하는 데 도움이 될 수 있다고 믿습니다.
댓글