시그널은 인공지능이 본질적으로 '감시 기술'이라고 믿습니다.

돈을 벌기 위해 사용자 데이터에 의존하는 많은 기업이 인공 지능에 애착을 갖는 것처럼 보이는 이유는 무엇입니까? Signal의 사장인 Meredith Whitaker에게 물어보면 그녀는 단순히 "인공지능은 감시 기술이기 때문"이라고 답할 것입니다.

TechCrunchDisrupt2023에서 Whittaker는 AI가 빅 데이터와 크게 분리될 수 없으며 Google 및 Meta와 같은 회사, 소비자 중심은 덜하지만 똑같이 저명한 기업 및 방위 회사가 오랫동안 업계를 대상으로 삼고 있다는 자신의 견해를 밝혔습니다.

"감시 비즈니스 모델이 필요합니다. 이는 1990년대 후반부터 우리가 보아온 감시 광고의 성장이 심화된 것입니다. AI는 감시 비즈니스 모델을 통합하고 확장하는 방법이라고 생각합니다."라고 그녀는 말했습니다. "벤다이어그램은 원입니다. 인공지능을 사용하는 것도 감시의 한 형태죠. 아시죠? 사이비과학적 감정 인식 도구가 장착된 안면 인식 카메라를 지나갈 때, 카메라는 옳든 그르든 '당신은 행복하다, 슬프다, 성격이 나쁘다, 거짓말쟁이다' 등의 정보를 생성합니다. 이는 궁극적으로 자원과 기회에 대한 우리의 접근을 결정하는 판단과 예측을 하기 위해 고용주, ​​정부, 국경 통제 등 우리에 대한 권력을 가진 사람들에게 판매되는 감시 시스템입니다."

아이러니하게도 그녀는 이러한 시스템을 뒷받침하는 데이터가 해당 데이터의 대상이 될 수 있는 바로 그 작업자에 의해 구성되고 주석이 추가되는 경우가 많다고 지적합니다(AI 데이터세트를 조립하는 과정에서 필요한 단계).

"데이터에 대한 근본적인 진실을 알리는 수준에서 인간의 노동 없이는 이러한 시스템을 만들 수 없습니다. 인간의 피드백을 통한 강화 학습은 다시 말해 불안정한 인간의 노동을 살균하는 기술일 뿐입니다."라고 그녀는 설명했습니다. "수천 명의 근로자가 낮은 임금을 받고 있지만 전반적으로 비용이 높으며 이러한 시스템을 만들 수 있는 다른 방법은 전혀 없습니다. 어떤 면에서 우리가 보고 있는 것은 오즈의 마법사 현상입니다. 커튼을 열면 실제로 그렇게 많은 정보가 존재하지 않습니다."

그러나 모든 AI와 머신러닝 시스템이 똑같이 활용적인 것은 아닙니다. Signal이 앱이나 개발 작업에서 AI 도구나 프로세스를 사용하는지 묻는 질문에 그녀는 앱에 "작은 장치 모형이 있지만 우리가 개발하지는 않았으며 미디어 편집 도구 세트의 얼굴 흐림 기능의 일부로 기성품으로 사용했습니다. 실제로는 그다지 좋지는 않습니다. 하지만 군중 사진에서 얼굴을 감지하고 흐리게 처리하여 소셜 미디어에서 사진을 공유할 때 사람들의 개인 생체 인식 데이터를 Clearview 등에 공개하지 않도록 할 수 있습니다."라고 확인했습니다.

"하지만 문제는... 그래, 인공 지능을 훌륭하게 활용하면 내가 무대에서 던지는 모든 부정적인 것에 대응할 수 있지 않을까?" 그녀는 덧붙였다. "물론 이것이 안면 인식을 위한 유일한 시장이라면... 하지만 분명히 합시다. 안면 인식 기술을 개발하고 배포하는 과정은 비용이 많이 들고 경제적 인센티브 때문에 이것이 유일한 용도가 될 수는 없습니다."