요약:
미국 조지아주 애틀랜타시는 현실판 '로보캅'이 등장하는 것을 사전에 막기 위해 노력하고 있다. 지방 시의회는 최근 만장일치로 "HALT 법"(살상 기술에 대한 인간 권위)이라는 제안을 통과시켰습니다. 이 법안은 치명적인 힘과 관련된 결정이 항상 인간에 의해 내려지도록 시 정부가 무장 능력을 갖춘 자율 로봇 시스템을 구매하거나 사용하는 것을 금지할 계획입니다.
이 법안은 Liliana Bakhtiari 시의원이 발의했습니다. 이 법안에 따르면 애틀랜타 시 직원, 계약자 및 경찰서는 무기화된 자율 시스템, 드론 및 원격 작동 로봇을 구매, 수령 또는 배포하는 것이 금지됩니다. 이 법안은 무장 드론, 로봇견, 이와 유사한 군용 로봇 등 장비를 다루고 있지만, 폭발물을 해체하는 데 사용되는 특수 목적 로봇은 제한 범위에 포함되지 않는다.
Bakhtiari는 이 법안의 목적이 기술 개발을 반대하는 것이 아니라 법 집행 기관이 중요한 결정을 내릴 때 경찰을 기계로 대체하는 것이 아니라 기술을 사용하여 경찰관의 업무를 지원하도록 하는 것이라고 말했습니다. 그녀는 치명적인 무력을 사용할 때는 항상 인간의 통제가 유지되어야 하며 관련 결정을 인공 지능 시스템에 맡길 수 없다고 믿습니다.
이 법안을 추진하는 중요한 이유는 최근 미 국방부가 자율 및 반자율 전투 시스템의 개발 및 배치를 가속화하는 것을 목표로 하는 자율전 사령부(AutoWarCom)를 창설하겠다고 발표한 것입니다. 박티아리는 원래 군사 분야에서 사용되던 자율전투기술이 향후 점차 지방 사법기관에 유입될 수 있어 사전에 법적 경계를 마련할 필요가 있다고 우려한다.
영화 '로보캅'이나 '로보캅 2'에서 묘사된 장면과는 아직 현실은 어느 정도 거리가 있지만, 기술 발전 속도는 점점 빨라지고 있음을 강조했다. 문제가 발생하기를 기다렸다가 조치를 취하기보다는, 무장로봇이 공공 안전 문제에 참여하지 못하도록 지자체가 미리 규칙을 마련해야 한다.
이 법안은 또한 인공 지능 시스템이 판단을 내릴 때 전문적으로 훈련받은 경찰관을 대체해서는 안 된다는 점을 구체적으로 강조합니다. 지지자들은 기술이 아무리 발전하더라도 생명 안전과 관련된 결정은 책임 메커니즘과 도덕적 제약을 유지하면서 인간이 부담해야 한다고 믿습니다.
시의회 표결에서 이 제안은 15대 0으로 만장일치로 지지를 받아 여야를 막론하고 만장일치의 입장을 보였다. 지지자들은 이것이 인공 지능 기술의 책임 있는 사용에 대한 애틀랜타의 태도를 반영하며 공공 안전 분야에서 인간 중심 원칙을 고수하는 중요한 단계라고 말했습니다.
법 집행 로봇의 사용은 최근 몇 년간 미국 내 여러 곳에서 논란을 불러일으켰습니다. 샌프란시스코는 2023년 특수한 상황에서 치명적인 무력을 행사하기 위해 경찰의 로봇 활용을 승인했지만, 대중의 강력한 반대 끝에 불과 일주일 만에 이 결정을 취소했다. 치명적인 힘을 갖춘 로봇을 법 집행 활동에 사용하는 것은 여전히 금지되어 있습니다.
인공지능, 자율시스템, 로봇공학 기술이 급속히 발전하면서 '기계가 사람의 생사를 결정할 수 있는가'를 둘러싼 논의는 공상과학 영화에서 실제 정책 수준으로 점차 옮겨가고 있다. 애틀랜타 법안은 미국 지방정부가 무장한 인공지능 시스템에 대해 예방적 규제 조치를 취한 최신 사례이기도 하다.
댓글