요약:
개빈 뉴섬 캘리포니아 주지사는 고용주가 직원을 해고하거나 징계할 때 인공 지능에 의존하는 것을 제한하는 로봇 상사 금지법(SB 947)에 서명했습니다. 새로운 법은 기업이 자동화된 의사결정 시스템만을 토대로 그러한 결정을 내리는 것을 금지하고 AI를 주요 의사결정 도구로 사용하는 것을 제한합니다. 고용주가 해고 또는 징계 결정을 내리기 위해 AI 출력에 주로 의존하는 경우 경영 평가, 동료 평가, 인사 파일 등 기타 정보와 함께 검토자가 이를 검증해야 합니다. 영향을 받은 직원은 또한 AI가 결정에 중요한 역할을 했다는 사실, 시스템에서 어떤 직원 데이터가 사용되었는지, 결정을 더 자세히 설명할 수 있는 담당자에 대한 서면 통지를 받아야 합니다.
이 법안의 작성자인 캘리포니아주 민주당 상원의원인 Jerry McNerney는 근로자가 기계나 AI에 의해 해고되거나 처벌되어서는 안 된다고 말했습니다. 인공지능은 생산성을 높일 것으로 예상되지만 실수, 오판, 편견을 보일 수도 있으므로 인간이 AI 도구를 제어해야 하며 그 반대가 아닙니다. 캘리포니아 노동연맹 회장이자 이 법안의 주요 지지자인 로레나 곤잘레스는 노동조합과 캘리포니아 노동자들이 주정부가 직장 내 AI 규제에 앞장서도록 압력을 가했으며 직장 내 AI 도입에 미국 대중이 어떻게 대응해야 하는지에 대한 논의를 바꾸었다고 말했습니다.
McNerney가 이 법안을 처음 제출한 것은 2025년입니다. 이 법안은 그해 압도적인 과반수로 캘리포니아 양원을 통과했지만 여전히 Newsom에 의해 거부되었습니다. 뉴섬은 당시 규제되지 않은 자동화된 의사결정이 직원들에게 해를 끼칠 수 있다는 점을 인정했지만, 원래 법안이 모든 회사와 무해한 도구에 대해 지나치게 광범위한 알림 의무를 설정했다고 주장하면서 회사가 근무 조건에 영향을 미칠 수 있는 모든 AI 시스템을 직원에게 미리 알리도록 요구하는 데 반대했습니다. McEnany가 올해 2월 이 법안을 다시 도입했을 때 그는 사전 통지 요구 사항을 삭제하고 공연 근로자에게 보호를 확대하는 조항도 삭제했습니다. 후자는 Uber 및 Lyft와 같은 차량 공유 회사에서 강력하게 반대했습니다. 이러한 변화로 인해 기술 및 비즈니스 그룹의 로비 압력이 완화되었지만 캘리포니아 기업은 법안이 서명되기 전에 계속 반대했습니다.
프로그레시브 상공회의소(Progressive Chamber of Commerce)의 캘리포니아 및 미국 서부 정책 및 공보 담당 수석 이사인 로버트 싱글턴(Robert Singleton)은 Newsom에게 보낸 서한에서 이 법안은 고용주가 자동화된 의사 결정 시스템에 '주로 의존'할 때 의무를 이행하도록 요구하지만 이 핵심 개념을 정의하지 않아 기술이 의사 결정 지원에서 기본 기반으로 바뀔 때 기업이 판단하기 어렵게 만든다고 말했습니다. 그는 일반적인 도구가 규제되는지 여부가 명확하지 않으면 고용주가 의사 결정의 일관성을 향상하고 안전 위험을 식별하거나 관리자가 더 나은 판단을 내리는 데 도움이 되는 기술 사용을 꺼릴 수 있다고 경고했습니다.
뉴섬은 최근 AI와 관련된 일련의 조치를 취했습니다. 이달 초 그는 "너무 늦기 전에" AI 모델이 초래할 수 있는 실존적 위험을 해결하기 위한 행정 명령에 서명하고 AI 모델을 독립적으로 평가하고 감사할 수 있는 국가 차원의 프레임워크 구축을 추진했습니다. 그는 또한 연방정부가 미국인을 보호할 책임을 저버렸다고 비난했습니다. 작년에 OECD가 발표한 조사에 따르면 미국은 자동화 관리 소프트웨어 적용 분야에서 세계를 선도하는 것으로 나타났습니다. 미국 관리자의 90%는 회사가 직원을 지휘, 모니터링 또는 평가하기 위해 적어도 하나의 도구를 사용한다고 말했습니다. 전 메타 직원들은 올해 7월 회사가 해고 대상 직원을 분류하고 선별하기 위해 AI 지원 시스템을 사용했으며 병가나 가족 휴가를 받은 직원에게 불균형적으로 영향을 미쳤다고 주장하며 소송을 제기했습니다. 메타는 관련 비난을 부인했습니다. 미국 유통업계 관련 비영리단체 유나이티드 포 리스펙트(United for Respect)가 지난 5월 발표한 설문조사에 따르면 아마존과 월마트 직원들도 인사 결정 자동화에 대한 우려가 높아지고 있는 것으로 나타났다. 이 그룹은 지난 여름 월마트 주주들에게 직원 관리에 AI 사용을 공개하도록 경영진에게 요구하도록 압력을 가했지만 실패했습니다.
새로운 법은 미국에서 AI에 대한 대중의 우려가 계속 높아지는 가운데 나온 것입니다. 7월 갤럽 여론조사에 따르면 미국인 중 39%가 AI가 득보다 실이 더 클 것이라고 믿고 있는 것으로 나타났습니다. 이는 2025년 31%에서 증가한 수치입니다. 올해 8월 퓨리서치센터(Pew Research Center) 조사에 따르면 미국인 중 71%가 AI가 "사람들의 일자리를 앗아갈 것"이라고 믿고 있는 것으로 나타났습니다. 이는 약 2년 전보다 약 7% 포인트 증가한 수치입니다. 뉴섬은 2028년 대선 출마를 고려하고 있으며, AI 정책은 민주당 후보들에게 중요한 이슈가 될 것으로 예상된다. 캘리포니아 공화당 주지사 후보인 스티브 힐튼(Steve Hilton)도 SB 947을 공개적으로 지지하며 이 법안이 충분히 엄격하지 않다고 생각합니다. 그는 고용주가 직원의 해고, 강등, 정규 근무 시간 상실, 수입을 얻기 위해 의존하는 프로젝트에서 제외 여부를 AI가 결정하도록 해서는 안 된다고 말했습니다.
캘리포니아주는 직장 AI에 대해 이렇게 엄격한 규제 체계를 확립한 최초의 주가 될 것입니다. 지난 5년 동안 일리노이주와 기타 지역에서는 고용 결정에 AI가 참여하는 것을 제한하는 법안을 제정했습니다. 올해 1월 발효된 일리노이주 공공법 103-0804는 AI가 특정 고용 시나리오에 사용될 때 고용주가 직원에게 이를 통보하도록 요구하지만, 고용 결정을 내리기 위해 에이전트와 같은 디지털 시스템을 배포하는 것을 금지하지는 않습니다. 비슷한 법안이 전국의 많은 주에서 여전히 정체 상태입니다. 올해 6월 미국 민주당 상원의원인 에드 마키(Ed Markey)와 브라이언 샤츠(Brian Schatz)는 고용주가 업무 관련 결정을 내리기 위해 자동화된 의사결정 시스템에 의존하는 것을 금지하는 같은 이름의 연방 법안을 제안했습니다. 그러나 의회가 AI 규제 법안을 적극적으로 추진하지 않아 법안의 전망은 제한적이다. 뉴욕, 루이지애나, 뉴저지에서도 유사한 법안이 제안되었지만 아직 실행되지 않았습니다. 뉴욕은 올해 초 새로운 AI 데이터 센터를 금지한 미국 최초의 주가 되었습니다. 캘리포니아의 새로운 법은 다른 주에서도 직장 AI 법안을 가속화하도록 압력을 가할 수 있습니다.
자유주의적 시민 자유 단체인 전자 프론티어 재단(Electronic Frontier Foundation)은 법안에 서명하는 것이 자동화된 의사 결정 시스템을 사용하는 직장 직원을 보호하는 데 있어 중요한 단계이며, 직장에서 존엄성을 유지하는 정책을 장려하기 위해 노동 단체와 계속 협력할 것이라고 밝혔습니다.
댓글