AI가 실수로 계정을 삭제하고 인간적인 고객 서비스 부재: 메타 사용자는 "차단 해제 주기"에 갇혀 있습니다

7월 22일 뉴욕타임스에 따르면 메타는 인간 리뷰어를 대체할 것을 기대하며 AI를 활용한 콘텐츠 리뷰를 늘리고 있지만, AI가 실수로 사용자 계정을 삭제한 사례도 있었다. 차단을 해제하려면 사용자가 항소를 제출해야 하지만 항소는 여전히 AI로 전달됩니다.

Hansens의 영어 교육 계정이 차단되었습니다

올해 3월 어느 날 밤, 카밀 핸슨(Camille Hanson)은 알림 메시지를 받고 잠에서 깨어났습니다. 그녀는 페이스북과 인스타그램 계정을 통해 남편과 함께 영어가 모국어가 아닌 사람들에게 영어를 가르치는 사업을 운영하고 있으며 거의 100만 명의 팔로워를 보유하고 있지만 이 계정은 현재 삭제 대상으로 표시되어 있습니다. 메타는 사기 및 사기 행위에 관한 커뮤니티 지침을 위반했다고 말했습니다.

40세의 Hansen은 "나는 단지 영어 교사일 뿐이었습니다"라고 회상합니다. 그녀는 사기와 사기 혐의에 당황했습니다. "내가 뭘 잘못했나요?" 그녀는 스스로에게 물었다.

통지에는 항소할 수 있다고 적혀 있었기 때문에 항소 절차를 시작하기 위해 버튼을 클릭했습니다. 일주일 후, 그녀는 또 다른 통지를 받았습니다. 그녀의 불만 사항이 기각되었다는 것이었습니다.

이에 대해 메타는 “귀하의 모든 정보는 영구적으로 삭제될 것”이라고 답변했다. "이 결정에 대해 새로운 검토 요청을 제출할 수 없습니다."

한센 씨 부부

한센의 남편 캘빈(42세)은 포르투갈 자택에서 가진 인터뷰에서 "실제 매장을 열고 누군가 사무실이나 매장을 닫는 것 같은 느낌"이라고 말했다.

AI가 큰 역할을 할 수 있을까?

한센 가족에게 일어난 일은 AI 오류에 의한 사건이다. 어떤 계정이 Meta의 콘텐츠 규칙을 위반하는지 판단하는 동시에 이러한 결정에 대한 항소를 처리하는 기술이 점점 더 많아지고 있습니다. 더욱 괴로운 점은 Hansens와 같은 사용자가 무엇을 해야 할지 파악하기 위해 Meta의 누구에게나 연락하는 데 종종 어려움을 겪는다는 것입니다.

지난 3월 Meta는 AI 봇에 더 많은 권한을 부여하여 유해한 이미지를 금지하거나 삭제할 계정을 결정할 수 있게 하겠다는 계획을 발표했습니다. 몇 달 후, 회사는 해당 업무에 종사했던 직원을 포함해 수천 명의 직원을 해고했습니다.

사용자들은 온라인으로 조직했으며 최근 60,000명 이상의 사람들이 메타에게 금지된 계정에 대한 더 많은 정보를 제공하고 항소에 대한 사람의 검토를 허용하도록 요청하는 청원서에 서명했습니다. Reddit 및 기타 플랫폼의 일부 커뮤니티는 회사의 AI 시스템에 대한 Meta 사용자의 수많은 불만으로 가득 차 있습니다.

Meta는 AI를 사용하여 콘텐츠를 조정합니다.

메타 대변인 다니엘 로버츠(Daniel Roberts)는 회사의 새로운 AI 검토 도구가 인간 직원보다 오류를 13% 줄이고 불법 콘텐츠를 10% 더 많이 찾아내며 계정 처리에 있어서 AI가 인간보다 나쁘다는 생각에 대해 이의를 제기했습니다. Roberts는 The New York Times가 Meta에 신고한 5개의 계정 중 모두 회사의 오래된 AI 조정 도구에 의해 금지되었다고 말했습니다.

그는 "우리는 실행 오류를 줄이고 개인이 자신의 계정을 보호할 수 있도록 돕기 위해 최선을 다하고 있습니다. AI는 두 영역 모두에서 결과를 제공하고 있습니다"라고 말했습니다.

Meta는 AI 문제에 여러 번 직면했습니다. 올해 5월 해커들은 AI 고객 서비스 챗봇의 취약점을 악용해 오바마 전 백악관 계정을 포함해 인스타그램 계정 3만4000개를 공격했다. 같은 달, AI 훈련을 위해 키 입력을 추적하는 프로그램에 대한 직원 항의로 인해 Meta는 프로그램을 중단했습니다.

지난주 Meta의 전직 직원 26명은 회사가 장애인 직원을 대상으로 한 AI 알고리즘을 사용하여 그들을 해고했다고 소송을 제기했습니다. 메타 대변인은 “인적자원 관리와 조직의 의사결정은 AI가 아닌 인간이 내린 것”이라고 말했다.

계정 복구 서비스를 제공하는 사용자 옹호 그룹인 People Over Platforms는 올해 Meta에게 계정 조정 정책을 변경하도록 강요하는 온라인 청원을 시작했습니다. 메타는 청원서에 서명한 많은 사람들이 아동 착취 자료를 공유했다고 비난하고 이후 이를 금지했습니다. 사용자들은 이러한 비난이 "상해에 대한 모욕을 더하는 것"이라고 생각합니다.

이의를 제기할 방법이 없음

이것이 바로 Meta가 작년에 Athenia Rodney를 상대로 주장한 내용입니다. Rodney는 미국 노예 제도 종식을 기념하는 단체인 JuneteenthNY의 이사입니다. 작년에 Meta는 Facebook과 Instagram에서 모든 개인 및 업무 계정을 금지했습니다.

Meta의 통지문에는 다음과 같은 내용이 있습니다. "저희 기술을 통해 귀하의 계정이나 계정에서의 활동이 당사의 규칙을 준수하지 않는 것으로 확인되었습니다. 결과적으로 당사의 기술이 조치를 취했습니다."

로드니

Rodney는 자신의 조직에서 게시하는 콘텐츠가 '가족 친화적인 콘텐츠'이기 때문에 이러한 결정에 대한 Meta의 추론을 이해할 수 없다고 말했습니다. 그녀는 계정이 정지된 후 Juneteenth New York의 사진 아카이브를 뒤져 AI 봇을 작동시켰을 가능성이 있는 게시물을 찾으려고 노력했지만 아무 것도 발견하지 못했습니다.

나중에 Rodney는 Meta가 자신의 계정을 취소하기 직전에 그녀가 애틀랜타에 살았음에도 불구하고 회사에서 시애틀과 싱가포르에서 의심스러운 로그인에 대해 경고했다고 회상했습니다. 이는 그녀의 계정이 해킹당했을 가능성이 있음을 나타냅니다.

Rodney는 신속하게 비밀번호를 변경했지만 다양한 비즈니스 및 개인 목적으로 사용했던 Instagram 및 Facebook 계정 6개가 여전히 차단되어 있습니다.

계정을 복원하기 위해 그녀는 신분증을 제출하고 Better Business Bureau 및 연방거래위원회에 불만을 제기했으며 주 소비자 보호 사무소에 연락하고 LinkedIn에서 Meta 직원에게 메시지를 보냈다고 말했습니다. 그러나 모든 노력은 헛된 것이었다.

그 이후로 Juneteenth New York은 후원자들에게 그것이 거의 20년 동안 존재해 온 합법적인 조직임을 설득해야 했습니다.

Rodney는 "우리의 스폰서들은 우리가 합법적인 조직이며 17년 동안 이 활동을 해왔는지 확인하기 위해 우리의 소셜 미디어 페이지를 확인할 것입니다."라고 말했습니다. "하지만 이제 그들이 우리 계정에 로그인해서 우리의 팔로워가 500명밖에 없다는 것을 알자마자 그들은 당신이 그렇게 오랫동안 하지 않았으며 당신이 가짜라고 말할 것입니다."

실수로 차단됨

뉴욕타임스가 금지된 계정 5개를 메타에 지적한 뒤, 메타는 회사가 조사를 실시한 결과, 그 중 2개 계정은 해킹으로 인해 금지됐고, 다른 계정은 정당한 이유로 금지된 것으로 나타났다고 밝혔다. 메타는 해커가 아동 안전에 관한 정책을 위반했기 때문에 해킹된 계정이 적절하게 금지되었다고 말했습니다.

이후 Meta는 Rodney의 Juneteenth New York 계정을 포함하여 해킹된 두 계정을 복원했습니다. 회사 측은 지적된 5개 계정 중 한센스 계정을 포함해 2개 계정이 실수로 차단됐다고 밝혔다.

로베르토 수아레스는 올해 금지되기 전까지 50만 명 이상의 팔로워를 모은 인스타그램 유명인이다. 그는 Meta로부터 사진, 팬, 메시지 등과 함께 자신의 계정이 복원되었음을 알리는 이메일을 받은 사람 중 한 명이었습니다. 그는 몇 달 동안 소식을 듣지 못한 팬들에게 콘텐츠를 다시 게시하기 시작했습니다.

수아레즈 계정이 계속 차단됐네요

Hansen 씨는 또한 Meta로부터 자신의 계정이 복원되었음을 알리는 이메일을 받았습니다.

이메일에는 "귀하의 계정을 검토한 결과 위의 활동이 사기 및 사기에 대한 커뮤니티 지침을 준수하는 것으로 확인되었으므로 Instagram을 다시 사용할 수 있습니다"라고 적혀 있습니다. "우리가 실수해서 미안해요." (저자/샤오유)

더 많은 직접적인 뉴스를 보려면 Phoenix News 클라이언트를 다운로드하고 Phoenix Technology를 구독하세요. 심층적인 보고서를 보려면 WeChat에서 "ifeng.com Technology"를 검색하세요.