미국의 한 고등학생이 감자칩을 먹다가 AI에 의해 총으로 인식돼 경찰차 8대가 유인됐다.

최근 미국 메릴랜드 주 볼티모어 카운티에서 충격적인 사건이 발생했습니다.현지 AI 총 탐지 시스템이 16세 학생의 도리토스 콘플레이크 봉지를 총기로 잘못 식별해 무장 경찰이 출동했습니다.

사건은 10월 20일에 발생했습니다. Kenwood 고등학교의 학생인 Taki Allen은 막 축구 연습을 마치고 친구들과 함께 학교 밖에 머물고 있었습니다. 갑자기 여러 대의 경찰차가 속도를 냈고 경찰은 그들에게 총을 겨누었습니다.

Allen은 "약 8대의 경찰차가 우리를 향해 달려오고 있었습니다. 그들은 총을 뽑은 채 나에게 다가와 '땅에 엎드려'라고 소리쳤고 나는 '무슨 일이 일어나고 있는 거지?'라고 생각했습니다."라고 말했습니다. 그는 당시의 두려움을 다음과 같이 설명했습니다."그들은 내 손을 등 뒤로 묶고 수갑을 채운 채 나를 무릎 꿇게 했습니다. 그리고 그들은 나를 수색했지만 아무 것도 발견하지 못했습니다."

Allen은 총구에서 경찰에 의해 제압되었고, 경찰은 나중에 경보를 발동시킨 AI 가로채기 이미지를 그에게 보여주었습니다. 공개된 사진 속 주머니 속 구겨진 도리토스 가방은 시스템에 의해 총으로 오인됐다.

“주로 '내가 죽는 건가? 그들이 나를 죽일 것인가?'라는 생각을 했어요. 그들은 나에게 사진을 보여주며 그것이 총처럼 보인다고 말했습니다." Allen은 계속되는 두려움으로 말했습니다.

사건을 촉발한 AI 시스템은 볼티모어 카운티 공립학교가 지난해 도입한 기술인 옴닐러트(Omnilert)에서 나온 것이다. 이 기술은 기존 감시 영상을 실시간으로 스캔해 무기라고 생각되는 물체를 탐지하면 법 집행 기관에 즉시 경고하는 기술이다.

알렌은 콘플레이크 봉지를 들고 있었고, 노출된 손과 한 손가락은 마치 총을 들고 있는 것처럼 보였습니다. Omnilert는 이것이 허위 경보임을 인정하면서도 시스템이 "의도한 대로 작동"했으며 "신속한 수동 검증을 통해 안전을 우선시"하도록 설계되었다고 주장했습니다.