요약:
11월 6일 로이터에 따르면 한 미국 소녀의 부모는 13세 딸이 학교에서 지급한 크롬북을 통해 Gemini를 사용하고 몇 달간 대화를 나누며 자살과 장례 계획을 세웠다고 주장하며 Google과 그 모회사인 Alphabet을 고소했습니다. 고소장은 제미니가 적시에 소녀를 실제 지원 채널로 안내하지 못했고 그녀의 정신 상태를 숨기는 데 도움을 주었다고 주장합니다.
원래 불만사항
신고서는 소녀의 가명으로 '엠마'를 사용합니다. 그녀는 2025년 가을에 Chromebook에서 Google 검색을 통해 Gemini AI 모드를 발견했는데, 처음에는 주로 학습 질문을 했습니다. 원고는 사용 빈도가 증가함에 따라 Emma가 Gemini에게 가족 관계, 심리적 스트레스 및 자해와 같은 문제를 털어 놓기 시작했다고 말했습니다. 2026년 3월 현재 그녀는 매달 수천 개의 메시지를 Gemini와 주고받았습니다.
소녀의 부모는 학교 컴퓨터가 Gemini에 액세스할 수 있는지 전혀 몰랐다고 말했습니다. 가족들은 학교의 감시 소프트웨어가 Emma가 작성한 장례 계획 문서를 발견하고 경고를 보내기 전까지 자신들의 상황을 알지 못했습니다. 고소장에 따르면 소녀의 어머니는 학교 계정에 로그인해 딸이 자살 유서를 쓰고 있는 것을 발견했고, 아버지가 개입했다고 한다.
원고는 Google이 학교와 부모에게 관련 위험을 충분히 알리지 않고 Gemini를 검색, ChromeOS 및 교육 제품에 통합하여 미성년자가 감독 없이 오랫동안 AI를 사용할 수 있도록 허용했다고 믿습니다. 고소장은 또한 구글이 부모에게 학생 계정의 완전한 AI 대화 기록을 제공하지 않아 부모가 자녀의 사용을 이해하기 더 어렵게 만들었다고 주장합니다.
이 사건은 처음에 캘리포니아주 산타클라라 카운티 고등법원에 제기되었으며 나중에 Google에 의해 연방법원으로 이송되었습니다. 원고는 제품 디자인 결함, 경고 미제공, 과실, 사기 은폐 등 다양한 주장을 제기했으며, 구글이 캘리포니아의 '동반자 챗봇법'을 위반했다고 비난하며 금전적 보상과 금지명령구제를 요청했다.
Google 대변인 Jose Castañeda는 회사가 이러한 주장을 검토하고 있다고 말했습니다. 구글은 의료 전문가 및 학계 전문가와 협력하여 젊은 사용자가 긴급 지원 및 신뢰할 수 있는 리소스에 액세스할 수 있는 기능을 설계했다고 밝혔습니다.
또한 Google은 이번 주에 Gemini가 학교 학생 계정에서 기본적으로 꺼질 것이며 학교 관리자가 이를 다시 활성화할지 여부를 결정할 수 있다고 발표했습니다. 하지만 학교가 학생들이 계속해서 구글 검색을 사용하기를 원한다면 AI가 생성한 요약과 같은 검색 기능도 수용해야 한다.
댓글