최근 캐나다 밴쿠버 경찰은 커머셜-브로드웨이 지역에서의 작전 결과를 보여주기 위해 소셜 미디어에 일련의 마약 단속 사진을 게시했습니다. 하지만 해당 사진에는 'AI로 만든 것'이라는 딱지가 붙어 여론의 소용돌이에 빠졌다. 이 사건은 경찰이 '기록을 미화'하기 위해 생성인공지능을 활용하고 있는 것은 아닌지 대중의 의구심을 빠르게 불러일으켰고, 전형적인 'AI 슬롭'이라는 비판을 받았다.
이 사진 세트는 원래 복지 수당 주간 동안 밴쿠버 경찰국이 상업-브로드웨이 지역의 마약 밀매 및 거리 소란 행위를 표적으로 삼는 데 "상당한 진전을 이루었고" 24시간 내에 여러 건의 체포를 실시했음을 강조하면서 경찰 보고서에 협조하기 위해 사용된 것으로 알려졌습니다. 하지만 해당 사진에는 명백한 'made with AI' 표시가 있을 뿐만 아니라, 현금 액면가가 부정확하게 표시되는 등 세부적인 문제도 존재한다. 예를 들어 일부 CAD 50 지폐는 CAD 20으로 작성되어 사진의 진위 여부와 취급에 대한 강한 불신을 불러일으켰습니다.
비난이 계속 커지자 밴쿠버 경찰은 먼저 AI 활용을 단순한 사생활 보호 수단으로 분류하기 위해 사건 관계자들의 이름을 편집하기 위해 '소프트웨어'를 사용한 것은 사실이라고 밝혔다. 그러나 많은 네티즌과 언론은 전반적인 시각 효과와 텍스트 주석으로 판단할 때 이미지가 '이름 번짐'을 넘어 명백히 심도있게 수정되었으며 AI 도구를 통해 라이브 샷을 재생성하거나 재구성하는 것과 비슷하다고 지적했습니다.
여론이 거세지자 경찰은 이후 'AI로 만든'이라는 문구가 적힌 원본 사진들을 삭제하고 새로운 사진들로 교체했다. 새 버전에서는 더 이상 AI 마크가 표시되지 않습니다. 그럼에도 불구하고 대중은 여전히 “구사진과 신사진 중 어느 버전이 실제 현장 기록인지”에 대해 회의적인 입장이다. 일부 소셜 플랫폼에서는 경찰이 초기 부적절한 행위를 은폐하기 위해 소위 '실제 사진'과 기존 'AI 정크 콘텐츠'를 비교하는 것인지 직접적으로 질문하기도 했다.
이 사건으로 인해 밴쿠버 경찰국은 많은 기술 및 언론 논평을 통해 "인위적으로 성능을 높이기 위해 AI 스팸 콘텐츠에 의존"하는 조직 목록에 포함되었습니다. 일부 분석가들은 법 집행 기관의 신뢰성이 제시된 증거의 진위 여부에 크게 좌우된다는 점을 지적했습니다. 사건에 관련된 사진조차 인공지능(AI)에 의해 생성됐거나 과도한 리터칭이 의심된다는 논란이 일면, 이들의 행동보고서에 대한 대중의 신뢰는 필연적으로 약화될 수밖에 없다.
보고서는 또한 이것이 고립된 사례가 아니라고 언급했습니다. 기업과 마케팅 업계는 비용을 절감하고 생산량을 늘리기 위해 AI 콘텐츠 생성 도구에 대한 투자를 공동으로 늘리고 있습니다. 그러나 이전 관련 설문조사에 따르면 설문조사에 참여한 소비자 중 약 26%만이 이러한 유형의 AI 생성 콘텐츠에 대해 긍정적인 태도를 보였습니다. 주류 사용자는 "AI 스팸 콘텐츠"에 대해 높은 관용을 갖고 있지 않으며 대신 투명성과 신뢰성에 대한 요구 사항이 더 엄격합니다.
이번 밴쿠버 경찰청의 '전복' 사례에서는 처음에 'made with AI' 마크를 제거하지 못한 것이 계기가 되었고, 이는 생성 AI 사용에 있어 경찰청의 기술적, 규제적 단점도 드러냈다. 현재 여론은 일반적으로 법 집행 및 공권력과 관련된 그래픽 콘텐츠, AI로 생성되거나 심하게 수정된 이미지가 명확한 규칙과 공개 지침 없이 계속 무작위로 혼합되면 필연적으로 공식 정보에 대한 대중의 의심을 가중시킬 것이라고 믿고 있습니다.