수동 검토를 위해 해외 사용자가 촬영한 은밀한 이미지를 전송하기 위해 메타 스마트 안경이 노출되었습니다.

메타는 인공지능과 증강현실 사업을 발전시키기 위해 스마트 안경에 많은 투자를 하고 있지만 새로 노출된 내부 프로세스는 개인정보 보호 경계에 대한 강한 의문을 다시 한번 불러일으켰습니다. 케냐 아웃소싱 기업 사마(Sama)에 고용된 여러 데이터 주석자는 메타 스마트 안경의 '라이브 AI(실시간 AI)' 기능으로 촬영한 수많은 원본 비디오 클립을 매일 시청하고 주석을 달아야 한다고 밝혔는데, 여기에는 일상적인 상호 작용 장면뿐만 아니라 극도로 사적이며 심지어 충격적인 장면도 포함됩니다.

이러한 주석은 Meta 컴퓨터 비전 시스템 교육의 핵심 부분입니다. 수동으로 주석을 추가한 비디오의 모든 프레임은 증강 현실 도우미의 알고리즘 성능을 피드백합니다. '라이브 AI' 기능이 활성화된 후에도 메타와 레이밴이 출시한 스마트 안경은 사용자가 본 장면을 실시간으로 분석하고 질문에 답하기 위해 카메라와 마이크를 통해 계속해서 짧은 영상과 오디오를 수집하게 된다. 그런 다음 관련 데이터가 메타 시스템에 업로드되고 거대한 훈련 데이터 세트에 통합되어 AI 도우미의 향후 버전을 최적화합니다.

그러나 Sama 직원은 업로드된 데이터가 실제로 사용자가 상상하는 것보다 훨씬 더 개인적인 것이라고 말합니다. 이들 데이터 주석자들은 안경을 쓴 사람들이 화장실에서 움직이고, 옷을 갈아입고, 심지어 섹스를 하는 장면도 반복적으로 봤고, 촬영 시점은 안경 자체에서 나왔다고 말했다. 노골적인 내용이 포함되지 않더라도 관련 클립은 완전히 표시된 은행 카드, 명확하게 식별 가능한 집 내부 레이아웃, 심지어 매우 사적인 대화와 같은 민감한 정보를 대량으로 공개하는 경우가 많습니다. 항의, 범죄 행위 혐의 또는 개인 사생활 보호에 대한 토론을 기록한 오디오 클립이 Meta 알고리즘의 교육 자료에 통합되었습니다.

공개 용어로 판단하면 Meta는 사무 수준에서 이러한 접근 방식을 위한 공간을 확보해 두었습니다. 회사는 AI 서비스 약관 및 개인 정보 보호 정책에 "실시간 AI" 비서와의 상호 작용이 자동화된 시스템이나 사람의 검토를 통해 유지 및 확인될 수 있다고 명시하고 사용자에게 민감한 정보를 공유하지 말라고 명시적으로 상기시킵니다. 그러나 스웨덴 언론인 Svenska Dagbladet과 Göteborgs-Posten의 보도에 따르면 실제로 안경을 착용하는 사용자는 일반적으로 자신의 앞의 모든 움직임이 해외로 전송되어 낯선 계약자가 프레임별로 검토할 수 있다는 사실을 이해하지 못하는 것 같습니다. 주석 작성자는 콘텐츠의 성격이 너무 개인적이거나 주석 처리 과정이 불편하다고 경영진에 불만을 제기하면 피드백이 무시되는 경우가 많았다고 밝혔습니다.

Meta는 처음에 몇 주 동안 스웨덴 언론인의 반복적인 질문에 응답하지 않았습니다. 나중에 대변인이 언론에 답변했을 때 이는 여전히 회사의 AI 서비스 약관 및 개인 정보 보호 정책에만 근거하고 있으며 "라이브 AI"를 사용할 때 사용자가 업로드한 미디어 콘텐츠는 이러한 문서에 따라 처리될 것임을 강조했으며 Straight Arrow News에 추가 의견 제공을 거부했습니다.

최근 몇 달 동안 메타 웨어러블을 둘러싼 사회적 우려가 계속 커지고 있습니다. 올해 초 뉴욕타임스는 내부 메모를 인용해 메타가 스마트 안경에 얼굴 인식 기능을 추가할 계획이라고 보도했다. 시민 자유 단체는 안면 인식이 지속적인 비디오 수집과 결합되면 제한된 감독과 투명성으로 현실 세계에서 모바일 감시 네트워크를 구축할 수 있다고 경고합니다.

Meta 외부의 타사 개발자들도 이 새로운 위협에 대처하기 위한 "방어" 도구를 구축하기 시작했습니다. 최근 등장한 Android 앱은 누군가가 근처에 스마트 안경을 착용하고 있는지 감지할 수 있다고 주장합니다. 이 앱은 특정 시각 또는 무선 신호 특성을 스캔하고 근처에 의심스러운 웨어러블 녹음 장치가 있다고 판단되면 사용자에게 경고합니다.

메타는 자사의 스마트 안경이 녹화 시 작은 LED 표시등을 켜 주변 사람들에게 촬영 중임을 알린다고 강조했다. 그러나 개인 정보 보호 전문가들은 이 설계가 실제 시나리오에서 보호가 매우 제한적이라고 지적합니다. 특히 연구원들이 표시등을 쉽게 끄거나 우회할 수 있음을 입증한 이후에는 더욱 그렇습니다.

규제 기관과 개인 정보 보호 옹호자들의 눈에는 다음과 같은 중요한 질문이 떠오르고 있습니다. 장기간의 서비스 기간에 묻혀 있는 알림이 개인 데이터의 대규모 및 심층 수집 및 수동 검토에 대한 "효과적인 알림"으로 간주될 수 있습니까? Meta의 AI에게 세상을 이해하는 방법을 매일 "가르쳐야" 하는 주석 작성자의 경우 대답은 자명해 보입니다. 그들은 자신이 보고 있는 콘텐츠의 종류를 정확히 알고 있으며 콘텐츠도 알고 있으며 콘텐츠에 관련된 사람은 이를 결코 깨닫지 못할 수도 있습니다.