올해 초 소셜 플랫폼 Discord는 글로벌 규제 압력에 대응하여 'teen-by-default'를 구현하여 기본적으로 모든 사람을 미성년자로 취급하고 일부 기능을 직접 잠갔습니다. 성인 모드를 잠금 해제하려면 연령 인증을 통과해야 합니다.두 가지 주요 확인 방법이 있습니다.: 카메라로 짧은 셀카 동영상을 찍고 AI가 휴대폰에서 로컬로 나이를 추정하도록 하세요. 또는 신분증을 솔직하게 업로드하세요.
이에 인터넷 친구들은 각종 극한 테스트에 돌입했다. 게임 스크린샷을 이용해 속이는 사람도 있었고, 3D 모델을 이용한 사람도 있었고, 가장 터무니없는 것은 손가락 막대 모양을 이용한 것이었습니다.
누군가 엄지손가락에 눈 두 개와 입을 그려서 카메라 앞으로 들고 시스템 지시에 따라 중앙 정렬, 좌회전, 우회전... AI 분석이 완료된 후 내린 결론은 다음과 같습니다.13~15세, 검증됨!
인터넷은 "허점 활용"에 있어 상상력이 부족했던 적이 없습니다. 아이브로우 펜슬로 턱수염을 그린 12세 소년도 있었는데, 시스템에서 15세로 판정돼 심사를 성공적으로 통과했다.
왜 이런 일이 발생합니까?
개인 정보 보호 분쟁을 최소화하면서 감독에 대처하기 위해 이러한 플랫폼은 사용자가 카메라 앞에서 비디오를 녹화하는 장치 측 얼굴 연령 추정 솔루션을 선택했습니다. AI 모델은 완전히 로컬 휴대폰이나 컴퓨터에서 실행되며 최종 연령대 판단 결과만 서버로 다시 전송됩니다. 전체 영상이나 얼굴 데이터는 업로드되지 않습니다.
이는 개인 정보 보호 위험이 낮은 것처럼 들리며 확인 프로세스가 상대적으로 가볍지만 사용 가능한 컴퓨팅 리소스가 제한되어 있고 모델이 너무 복잡할 수 없으며 서버 측의 강력한 분석에 의존할 수 없다는 단점이 있습니다.
이러한 모델은 주로 눈, 입, 얼굴 윤곽, 피부 질감과 같은 시각적 특징에 의존하여 나이를 추론합니다. 두 개의 점과 한 개의 선으로 그려진 단순한 엄지손가락은 특정 조명, 각도, 저해상도 아래에서 "어리고 부드러운 얼굴"이라는 추상적인 특징 패턴을 예기치 않게 준수합니다.
시스템에서 "얼굴"이 중앙에 있고 왼쪽과 오른쪽으로 회전해야 하는 경우 손가락의 자연스러운 약간의 흔들림과 그에 따른 움직임이 기본 모션 신호를 제공합니다. 이는 상대적으로 가벼운 생체 감지 기능이 이를 "살아 있는" 개체로 간주하고 직접 해제하는 데 충분합니다.
AI 연령 추정 모델은 주로 대량의 실제 얼굴 데이터를 사용하여 훈련되며, 본질적으로 매우 비표준적이고 추상적인 입력에 대한 견고성이 부족합니다.
출시 초기에는 일반 사용자가 어두운 조명, 잘못된 각도 또는 특별한 외모로 인해 자주 실패하는 것을 방지하기 위해 플랫폼에서는 임계값을 상대적으로 느슨하게 설정해야 했고, 이는 이러한 저기술 사악한 방법을 활용할 수 있는 기회를 제공했습니다.
Roblox와 같은 플랫폼에서도 비슷한 상황이 발생했습니다. 현재의 얼굴 나이 기술은 세심하게 고안된 속임수 방법에 직면했을 때 완벽함과는 거리가 멀다는 것을 알 수 있습니다.
플랫폼은 가만히 앉아 있지 않습니다.
얼마 전 메타는 AI를 활용해 사용자가 업로드한 사진과 동영상을 적극적으로 스캔하겠다고 발표했습니다.키, 뼈 구조 등 일반적인 시각적 단서를 이용해 계정 소유자가 13세 미만인지 확인한 후 직접 삭제하세요..
메타는 "이것은 얼굴 인식이 아니다"라고 구체적으로 강조한다. 대략적인 연령대 판단만 내립니다. "
더욱이 메타는 사진만 보는 것이 아니라 계정 전체의 텍스트 콘텐츠를 생일 케이크, 성적 언급 등 상호작용 행위의 포괄적인 초상화와 결합해 심사에 포함될 예정이다.
AI는 자신이 미성년자라고 느끼면 먼저 계정을 죽인다. 돌려받기를 원하시면 공식 인증 절차를 거쳐야 합니다. 이 시스템은 현재 일부 국가에서 온라인으로 제공되고 있으며 향후 더 많은 지역으로 점차 확대될 예정입니다. 또한 인스타그램 라이브, 페이스북 그룹 등으로 확대할 계획이다.
플랫폼은 AI를 사용하여 허점을 막고 있으며 사용자는 허점을 활용할 방법을 찾고 있습니다.
이 고양이와 쥐 게임은 계속될 가능성이 높습니다.