요약:
미국 플로리다주 리 카운티의 30세 여성이 문자를 통해 폭력을 위협한 혐의로 체포됐다. 보니타 스프링스에 거주하는 칼리 미셸 헬러(Carly Michelle Heller)는 앤트로픽(Anthropic)이 소유한 챗봇인 클로드(Claude)와의 대화에서 리 카운티 보안관 사무실에 총격 위협을 가하는 글을 썼다고 경찰이 밝혔다. Anthropic의 보안 시스템은 관련 콘텐츠에 플래그를 지정하고 이를 수동으로 검토하고 법 집행 기관에 통보합니다. Heller는 수사관에게 Claude를 "일기"로 사용했다고 말했습니다.
현지 언론이 인용한 체포 보고서에 따르면 헬러는 9월 26일 이른 아침 대화에서 "누군가를 쏘기 위해 지금 당장 보안관 사무실로 가고 있다"고 썼다. 다음 날 이른 아침에도 그녀는 그날 새 총을 얻었다며 "이번이 마지막 기회야, 이제 질렸어"라고 썼다. 신고를 받은 경찰은 보니타 스프링스의 딘 스트리트(Dean Street)에 있는 그녀의 거주지로 부관을 파견했고, 그곳에서 그녀는 무사히 구금되었으며 이후 리 카운티 보안관 사무실 정보부에서 조사를 받았습니다. 그녀는 현재 한 건의 서면 폭력 위협에 직면해 있으며 아직 유죄 판결을 받지 않았습니다.
플로리다 법에서는 다른 사람이 볼 수 있는 서면 또는 전자 기록을 통해 살인, 신체적 상해, 대량 총격 또는 테러 행위에 대한 위협을 가하는 행위가 2급 중범죄에 해당할 수 있다고 규정하고 있습니다. 그러나 이 사건 대화가 법률상 적용 가능한 요건에 부합하는지, 검사가 범죄의 성립 여부를 입증할 수 있는지 여부는 여전히 사법절차를 통해 판단해야 한다. 현지 법률 분석가들은 검찰이 해당 문구를 직접적인 위협으로 해석할 수도 있지만 이 사건은 논란이 없는 사건이 아니며 표현의 자유의 경계도 관련되어 있다고 지적했다.
Anthropic의 공식 정책에는 회사가 즉각적인 신체적 상해나 사망을 초래할 수 있는 긴급 상황이 존재하고 적시에 정보를 제공하면 위험을 피할 수 있다고 판단하는 경우 일반적인 법적 절차 없이 사용자 정보를 정부에 공개할 수 있다고 명시되어 있습니다. 회사는 또한 Claude가 온라인에 접속한 후 자동 탐지 시스템과 수동 검토를 사용하여 유해한 콘텐츠를 발견하고 사용 정책을 시행할 것이라고 공개적으로 밝혔습니다. 이번 사건의 경찰 신고 절차는 시스템이 먼저 사건을 표시한 후 수동으로 검토한 후 법 집행 기관에 연락하는 방식이었습니다.
이 사건은 챗봇의 개인정보 보호 경계에 대한 우려를 다시 한번 불러일으켰습니다. 사용자가 채팅창을 개인 일기장으로 취급한다고 해서 해당 내용이 해당 사용자에게만 표시되는 것은 아닙니다. 플랫폼은 보안 정책에 따라 대화를 검토할 수 있으며 긴급 상황 시 법 집행 기관에 정보를 제공할 수도 있습니다. Microsoft의 Copilot 이미지 편집기에 대한 최근 보고서에 따르면 검토자는 사용자 프롬프트 단어, 업로드된 사진 및 생성된 결과를 볼 수 있지만 관련 검토는 주로 출력 품질을 평가하는 데 사용됩니다.
TechSpot은 또한 OpenAI와 OpenAI의 CEO인 Sam Altman이 캐나다 브리티시 컬럼비아에서 발생한 대규모 총격 사건으로 소송을 당했다고 언급했습니다. 소송에서는 회사가 사건을 예방하기 위한 조치를 취할 수 있었다고 주장했습니다. 플로리다주는 또한 이전에 2025년 플로리다 주립대학교 총격 사건과 관련된 부상으로 OpenAI와 Altman을 고소한 바 있습니다. 이러한 소송 혐의 중 어느 것도 법원의 책임 판결과 동일하지 않으며, 이는 사용자 안전, 개인 정보 보호 및 실제 피해 예방 측면에서 AI 회사가 직면한 법적 논란을 강조합니다.
댓글