요약:
미국 펜실베니아주의 한 고등학교는 최근 인공지능 기술을 활용해 무기 탐지 시스템을 비활성화하기로 결정했다. 시스템이 몇 달 동안 학교에서 데이터를 수집하고 훈련했음에도 불구하고 총기류와 학생들이 매일 가지고 다니는 일반 품목을 확실하게 구별할 수 없어 허위 경보가 자주 발생했습니다. 학교에서는 장비가 아직 실제 사용을 위한 표준에 도달하지 못했다는 최종 결론을 내렸습니다.

관련 학교는 펜실베니아에 있는 Hempfield Area High School입니다. 이 학교는 Wi-AI라는 인공지능 무기 탐지 시스템을 테스트하기 위해 CurvePoint가 실시한 파일럿 프로젝트에 참여했습니다. CurvePoint는 Carnegie Mellon University에서 시작된 스타트업 회사로, 보안 감지를 위해 무선 신호를 사용하는 기술을 전문적으로 개발하고 있습니다.
Wi-AI는 학생들이 소지품을 트레이에 넣을 필요가 없으며 카메라를 사용하여 표적을 식별하지 않는다는 점에서 기존 금속 탐지기와 다릅니다. 대신 Wi-Fi 무선 신호를 사용하여 사람과 소지품의 모양과 특성을 파악합니다.
시스템은 학교 입구 근처에 SensePods라는 작은 센서를 설치합니다. 사람이 센서 근처를 지나가면 인체 표면과 소지품에 반사되는 전파의 변화를 측정하고 소프트웨어가 이 신호를 분석해 숨겨진 무기와 유사한 특성을 찾아낸다. 의심스러운 대상이 발견되면 시스템은 문자 메시지, 이메일 또는 관리 제어판을 통해 교직원에게 알릴 수 있습니다.
CurvePoint는 이 시스템에 카메라가 필요하지 않으며 개인 식별 정보를 저장하지 않고도 사람들의 흐름과 건물 점유를 분석할 수 있다고 말했습니다.
햄필드 학교는 지난 학년도에 시험에 참여하기 시작했습니다. 입구 근처에 설치된 센서는 학생들이 지나갈 때마다 지속적으로 데이터를 수집하고, 학생들이 건물에 들어간 후에도 시스템은 인식 모델을 개선하기 위해 지속적으로 데이터를 수집합니다.
그러나 실제 테스트 결과는 이상적이지 않았습니다. 시스템은 바인더, 금속 물병, 보조 배터리 등 학생들이 소지하고 있는 일반적인 품목을 잠재적인 무기로 식별하는 경우가 많습니다. 학생들이 매일 가지고 다니는 전자 기기 및 기타 품목이 다양하기 때문에 시스템이 실제로 위험한 품목과 일반 장비를 정확하게 구별하는 것은 어렵습니다.
학교에서는 원래 모델이 결국 95%의 인식 정확도에 도달할 것으로 기대했습니다. 이 표준에 도달한 후에야 학교의 주요 보안 탐지 시스템으로 사용할 수 있습니다. 그러나 Hempfield 교육감 Mark Holtzman 박사는 시스템이 아직 95% 목표와는 거리가 멀다고 인정했습니다.
Holtzman은 문제는 시스템이 아무것도 감지할 수 없다는 것이 아니라 실제 배포 요구 사항을 충족하기에는 오탐지가 너무 많다는 것이라고 말했습니다. 그는 데이터 전송 중 환경적 요인과 문제가 시스템의 안정성과 일관성에 영향을 미쳤다고 지적했습니다.
CurvePoint의 공동 창립자이자 CEO인 Skip Smith는 Hempfield가 공식 배포 사이트가 아니라 회사의 학교 보안 기술에 대한 테스트 및 평가 사이트였다고 말했습니다.
Smith는 테스트가 회사가 시스템 성능을 이해하는 데 도움이 되는 동시에 안정성과 일관성에 영향을 미치는 환경 문제를 노출시킨다는 점을 인정했습니다. 그는 회사가 이 기술을 계속 개발하고 평가할 것이지만 현재 공식적인 운영 배포를 지원하지 않으며 서비스 복귀에 대한 확정 일정이 없다고 말했습니다.
시범 프로젝트가 최종적으로 본격적인 운영 단계에 진입하지 못했기 때문에 학교가 이전에 탐지 장비에 지불한 금액을 환불해 드립니다. Holtzman은 학교가 앞으로도 계속 CurvePoint 테스트 환경을 제공할 의향이 있다고 말했습니다. 회사가 추가 교육을 위해 캠퍼스 시설을 사용해야 하는 경우 두 당사자는 계속 협력할 수 있습니다.
Wi-AI가 종료된 후에도 Hempfield 고등학교는 수년간 운영되어 온 OpenGate 워크업 무기 탐지 시스템을 계속 사용할 예정입니다. 학교에서는 현재 이 전통 장비 세트의 작동에 상당히 만족하고 있다고 말했습니다.
AI 캠퍼스 보안 시스템이 심각하게 오판한 것은 이번이 처음이 아니다. 2025년에도 미국 메릴랜드주 볼티모어 카운티 켄우드 고등학교에서 비슷한 사건이 발생했다. 학교 감시 카메라를 운영하는 AI 시스템이 학생의 손에 있는 도리토스 가방을 총으로 착각한 16세 학생이 경찰에 둘러싸여 수갑을 채웠습니다.
AI 무기 탐지 기술은 최근 미국 학교와 지방자치단체로부터 주목을 받고 있다. 일부 시스템은 인공 지능, 무선 센서 및 전자기 감지 기술을 사용하여 학생들이 소지품을 꺼내지 않고도 잠재적인 위험을 식별하려고 합니다. 그러나 실제 구축에서는 오경보율, 탐지 민감도, 복잡한 캠퍼스 환경 간의 균형을 맞추는 것이 여전히 어려운 문제입니다.
헴필드의 테스트 결과도 AI 시스템이 실험실이나 제한된 환경에서 잘 작동한다고 해서 매일 수백, 심지어 수천 명의 학생들이 다양한 물품을 캠퍼스 안팎으로 들고 다니는 복잡한 시나리오에 직접 적응할 수 있다는 것을 의미하지 않는다는 것을 보여줍니다. 캠퍼스 보안과 관련된 장치의 경우 허위 경보가 너무 많으면 직원의 부담이 증가할 뿐만 아니라 실제 경보가 수많은 유효하지 않은 프롬프트에 묻혀버릴 수도 있습니다.
댓글