요약:
영국 경찰의 한 고위 수사관이 범죄 수사 중에 마이크로소프트의 코파일럿(Copilot) 인공 지능 보조 장치를 부적절하게 사용한 혐의로 독립적인 조사를 받고 있습니다. 이번 사건은 법 집행 분야에서 인공지능 적용 범위와 민감한 데이터의 보안에 대한 우려를 다시 한번 불러일으켰습니다.
독립경찰행동국(IOPC)에 따르면 더비셔 경찰의 고위 경찰관은 심각한 위법 행위 혐의로 조사를 받고 있다고 합니다. 이번 조사는 더비셔 경찰이 내부 검토를 마친 뒤 지난 6월 23일 자율적으로 규제 당국에 상황 보고서를 제출한 뒤 올해 8월 시작됐다.
조사는 인공지능을 사용해 철자와 문법을 확인하는 등 기본적인 사무 업무를 넘어서는 것입니다. 관련 혐의에 따르면 경찰은 마이크로소프트 코파일럿(Microsoft Copilot)을 사용해 정책 결정, 위험 평가 및 관리에 참여하고, AI를 사용해 형사 사건 수사 과정에서 의사 결정의 이유와 근거를 제공한 혐의를 받고 있다. 아울러 그는 사건과 관련된 민감한 운영정보와 개인정보를 시스템에 입력한 혐의도 받고 있다.
실제로 더비셔 경찰국은 경찰이 업무 효율성을 높이기 위해 이르면 2025년 5월부터 Microsoft Copilot을 사용할 수 있도록 승인했습니다. 권한 범위에는 주로 보고서 작성, 문서 정리, 정보 요약 등 행정적인 사항이 포함됩니다. 하지만 경찰은 AI 툴에 모바일 데이터, 민감정보, 개인정보 입력을 허용하지 않는다는 점을 명확히 규정하고 있다.
독립경찰행동국(Independent Office for Police Conduct)의 담당 이사인 Emily Barry는 다음과 같이 말했습니다. "이러한 혐의는 심각한 성격을 가지며 완전하고 독립적인 조사의 대상이 되어야 합니다. 수사관은 2025년 5월부터 2026년 6월까지 해당 경찰관의 Copilot 사용을 조사하고 그의 행동이 치안 전문 기준을 위반했는지 여부를 판단하는 데 집중할 것입니다.
현재 경찰은 중과실 혐의로 수사 통지를 받았으나 사건이 종결되지 않았으며 수사가 계속 진행 중이다.
이번 사건은 인공지능이 점차 법 집행 기관의 일상 업무 프로세스에 침투하고 있음을 반영합니다. 이전에 미국의 일부 경찰서는 Axon이 출시한 Draft One 시스템을 채택하기 시작했습니다. 이 시스템은 신체 착용 카메라의 기록을 기반으로 경찰 보고서 초안을 자동으로 생성할 수 있습니다. 최종 콘텐츠는 여전히 경찰의 검토와 승인이 필요하지만, AI가 가져올 수 있는 잘못된 정보와 자동화된 도구에 대한 과도한 의존에 대한 우려가 계속되고 있습니다.
올해도 비슷한 문제가 주목을 받았습니다. 미국 유타주에서 인공지능이 생성한 경찰 보고서가 잘못됐다. 시스템은 배경 오디오 콘텐츠를 잘못 식별했으며 실제로 보고서에서 경찰관이 "개구리로 변했다"고 주장했습니다. 다행히 보고서가 공식적으로 제출되기 전에 오류를 수동으로 발견하고 수정했습니다.
동시에 민감한 데이터를 AI 시스템에 입력한 사건도 있는데, 이는 2023년 삼성에서 발생한 사건을 연상시키기도 한다. 당시 일부 직원이 기밀 프로그램 코드와 회의 내용을 ChatGPT에 제출해 처리를 했고, 이는 생성 인공지능의 데이터 보안 위험에 대한 기업 내 광범위한 우려를 불러일으켰다.
점점 더 많은 공공 기관이 인공 지능 보조원을 배치하기 시작함에 따라 이 조사는 영국 법 집행 시스템이 AI 사용 규범을 평가하는 중요한 사례가 될 수 있습니다. 이는 또한 향후 규제 정책과 경찰 업무에서 인공지능의 적용 범위에 영향을 미칠 수도 있습니다.
댓글