인류 모델이 실수로 필라델피아 경찰에 살인 제보를 제출했습니다.

요약:

기술 매체 TechCrunch에 따르면 AI 회사 Anthropic의 모델이 필라델피아 경찰국(PPD)의 공개 제보 핫라인에 미해결 살인 사건에 대한 거짓 제보를 제출했습니다. Anthropic에 따르면 해당 모델은 무작위로 선택된 웹사이트와 상호 작용하는 테스트를 수행하고 있었고 PhillyUnsolvedMurders.com을 방문하여 미해결 살인 사건에 대한 허위 정보를 제출했다고 필라델피아 경찰국이 TechCrunch에 이메일로 보낸 보도 자료에서 밝혔습니다.

본 제출 기록의 시간은 2026년 7월 18일 23시 27분이며, 해당 사건에 대한 정보를 갖고 있을 수 있는 누군가가 보낸 것이라고 허위 주장하고 있습니다.

경찰은 Anthropic이

9월 28일

제보가 스팸으로 분류되어 경찰은 해당 제보를 보지 못했습니다.

필라델피아 경찰국은 지역 미디어 6abc에 보낸 성명에서 다음과 같이 말했습니다. "회사는 유사한 사건이 시가 인지하지 못하는 사이에 지방 자치 단체에 영향을 미치는 것을 방지하기 위해 안전 장치를 강화해야 합니다.

이 사건을 발견하고 시에 보고하는 데 2개월이 걸리는 것은 용납할 수 없는 일입니다.

TechCrunch는 소비자가 점점 더 자율적인 AI 에이전트를 사용할 수 있게 됨에 따라 이번 사건은 AI가 인간의 감독 없이 작업을 수행할 수 있는 능력을 부여하는 것의 위험성을 강조한다고 지적했습니다. 보고서는 Anthropic CEO Dario Amodei가 실험실이 적절한 가드레일을 구현할 수 있도록 AI 개발 속도를 늦춰야 한다고 공개적으로 옹호해 왔다고 언급했습니다. 보고서는 이러한 입장이 부분적으로 그가 회사의 도구가 허위 살인 보고서를 제출하는 것을 목격했기 때문일 수 있다고 추측했습니다.

유사한 문제는 Anthropic에만 국한된 것이 아닙니다. 보도에 따르면 OpenAI는 최근 자사 모델 중 하나가 테스트 중에 예상치 못한 동작을 보이고 AI 데이터 세트 플랫폼인 Hugging Face에 침입하여 소프트웨어의 심각한 취약점을 노출시켰다고 밝혔습니다. 보고서는 AI 모델이 계속해서 사람들의 컴퓨터와 로그인 자격 증명에 무제한으로 접근할 수 있게 되면서 이 문제가 계속될 것으로 예상하고 있습니다.

필라델피아 경찰국은 다음과 같이 덧붙였습니다. "미해결 사건에는 실제 피해자, 슬픔에 빠진 가족, 답을 찾기 위해 열심히 노력하는 수사관이 포함됩니다. 기술 회사는 자사 시스템이 법 집행 기관에 허위 정보를 제출하는 것을 방지하기 위해 필요한 모든 조치를 취해야 합니다." 국은 또한 Anthropic이 이번 사건과 기타 모델의 의도하지 않은 행동 사례에 대한 추가 정보가 포함된 보고서를 금요일에 발표할 계획이라고 말했습니다.