5월의 어느 날 아침, 가짜 수염을 기른 ​​11세 소년이 Roblox의 연령 추정 시스템을 속여 자신이 더 나이가 많은 것처럼 보이려고 했습니다. 그러나 몇 초 만에 시스템은 그의 연령대가 9세에서 12세 사이라고 판단하여 게임 플랫폼에서 추진하는 새로운 연령 확인 조치를 쉽게 우회할 수 없음을 입증했습니다.

Roblox가 본사에서 마련한 이번 시연은 최신 생체인식 연령 감지 도구를 언론에 선보이려는 회사 노력의 일환이었습니다. 이 도구는 올해부터 전 세계적으로 제공되었으며 이번 달부터 미성년자 사용자를 연령 등급 계정으로 분류하는 데 사용되었습니다. 회사는 플랫폼에서 어린이의 안전에 대한 오랜 의구심에 대응하고 미성년자 사용자가 상대적으로 "연령에 적합한" 가상 환경에서 행동할 수 있도록 보다 강력한 조치를 취하고 있음을 사용자, 부모 및 투자자에게 증명하기를 희망합니다.

Roblox는 2006년 출시된 이후 어린이를 중심으로 한 세계 최대 규모의 소셜 게임 플랫폼으로 성장했습니다. 플랫폼의 가상 세계는 사용자가 직접 생성하며 공식적으로 "경험"이라고 합니다. 최근 몇 년 동안 Roblox는 여러 사건과 주정부 소송에서 플랫폼이 "아동 약탈자의 사냥터"라고 비난함에 따라 플랫폼에서 사용자가 서로 통신하는 방법에 대한 규칙을 강화했습니다.

최근 조정에서 회사는 공식적으로 미성년자를 위한 계층적 계정 시스템을 시작했습니다. 5~8세의 사용자는 '로블록스 키즈' 계정으로 분류되며, 기본적으로 모든 메시지 기능이 꺼져 있으며, 성숙을 위해 '최소' 또는 '마일드' 콘텐츠로 표시된 게임만 플레이할 수 있습니다. 9~15세 사용자는 "Roblox Select" 계정에 들어갑니다. 플랫폼은 점차적으로 더 많은 채팅 기능을 개방하고 콘텐츠 성숙도가 가장 높은 게임에 "중간"으로 액세스할 수 있도록 허용할 것입니다. 16세 이상의 사용자는 일반적인 상황에서 플랫폼의 전체 게임 라이브러리와 채팅 기능에 액세스할 수 있습니다.

이 등급 시스템은 이전에 Roblox가 출시한 규칙을 기반으로 구축되었습니다. 플랫폼에서는 이미 모든 사용자가 채팅 기능을 사용하기 전에 정부 발급 신분증을 제출하여 연령을 확인하거나 생체 인식 연령 테스트를 통과해야 합니다. 시스템은 자동으로 사용자의 연령을 추정하여 비슷한 연령대의 사용자들과만 채팅을 할 수 있도록 합니다. 관계자들은 이것이 과거 '자기 생일 신고' 시대 이후 미성년자의 안전을 위한 중요한 조치라고 말합니다.

그러나 보안 조치 강화는 플랫폼의 상업적 성능에 직접적인 영향을 미쳤습니다. 로블록스의 일일 활성 사용자 수는 지난해 3분기 약 1억5200만명에서 올해 1분기에는 1억3200만명으로 줄었다. 시장은 이에 반응했고, 이 회사의 주가는 하루 거래일에 18%나 하락했다. 많은 플레이어들이 "잠긴 채팅", "AI 생성 채팅 요약", "새로운 게임 연령 기준"과 같은 요인으로 인해 자신의 경험이 심각하게 약화되었다고 온라인에서 불평했습니다.

Roblox의 보안 제품 정책 담당 부사장인 Eliza Jacobs는 San Mateo에 있는 회사 본사에서 가진 인터뷰에서 회사는 이러한 변화를 "Roblox의 장기 비전에 대한 투자"로 보고 있다고 말했습니다. 그녀는 새로운 규제가 단기적으로는 지역사회에 불만과 충격을 안겨줄 것이라는 점을 인정하면서도 전환기 동안의 끈기가 필요하다고 믿었다. “모든 사람이 항상 행복할 수는 없습니다.”라고 그녀는 말했습니다. "커뮤니티는 Roblox에 대해 깊이 느끼고 플랫폼을 자신의 공간으로 생각합니다. 따라서 우리가 그들에게 영향을 미치는 변화를 도입할 때 저는 그들의 감정을 완전히 이해합니다."

Roblox는 현재 증가하는 법적 압박에 직면해 있습니다. 미국 내 최소 9개 주에서는 아동 안전 문제로 회사를 고소했으며, 다른 3개 주에서는 소송의 대안으로 Roblox와 합의하기로 결정했습니다. 또한 150개 이상의 가족이 개별 사건에서 Roblox를 고소했으며 플랫폼이 플랫폼에서 아동의 손질이나 성폭행을 막지 못했다고 비난했습니다. 이러한 소송은 캘리포니아 북부 연방 지방 법원의 다지구 합동 소송으로 통합되었습니다.

이러한 비판에 대해 로블록스는 서면 성명을 통해 회사가 "지역사회를 위해 안전하고 건강하며 연령에 적합한 환경을 조성하기 위해 최선을 다하고 있다"고 강조했습니다. 성명서는 플랫폼에 대한 비난이 "Roblox의 운영 방식을 근본적으로 오해하고 있으며 온라인 안전에 대한 새로운 표준을 설정하기 위해 우리가 적극적으로 취하고 구현하고 있는 수많은 조치를 무시하고 있다"고 밝혔습니다.

그러나 Roblox의 연령 확인 체계는 개인 정보 보호 및 정확성에 대한 우려도 불러일으켰습니다. 회사는 제3자 서비스 제공업체인 페르소나(Persona)가 개인 정보 침해에 대한 사용자의 우려를 해결하기 위해 연령 추정이 완료된 후 즉시 사용자의 생체 인식 데이터를 삭제한다고 밝혔습니다. 동시에 일부 사용자들은 부정확한 시스템 판단 문제나 플레이어가 이를 우회하는 방법을 찾는 문제에 대해 여전히 논의하고 있습니다.

연령 추정 도구는 더 넓은 인터넷에서 점점 더 많이 채택되고 있습니다. 소셜 플랫폼이 아동 보호 실패로 비난을 받으면서 온갖 종류의 연령 확인 조치가 등장하고 있습니다. 그러나 디지털 권리와 표현의 자유 옹호자들은 그러한 기술이 특히 데이터 저장 및 사용 방식에 있어 새로운 보안 및 개인 정보 보호 위험을 초래할 수 있다고 경고합니다.

Jacobs는 Roblox가 사용하는 인공 지능 기술이 사용자의 얼굴 구조를 기반으로 사용자의 나이를 추정하는데, 이는 일반적으로 어린이의 실제 나이로부터 1.4년 이내에 변동될 수 있다고 말했습니다. 그녀는 이 방법이 드롭다운 목록에서 생일을 선택하는 것보다 훨씬 더 정확하다고 생각합니다. 그녀는 “시스템에 13세 이상임을 알리는 확인란을 선택하는 것만으로는 더 이상 충분하지 않습니다.”라고 그녀는 말했습니다. 회사는 “자기 나이를 신고하는 시대는 끝났다”고 덧붙였습니다.

Roblox는 시스템에서 연령이 잘못 추정된 사용자를 위해 여러 항소 채널을 설정했습니다. Jacobs는 시스템에 의해 실제보다 어리다고 판단되는 사용자는 정부 ID 문서를 제출하여 계정의 연령 정보를 수정할 수 있다고 말했습니다. 부모는 바인딩된 자녀 계정의 연령을 수동으로 변경할 수도 있습니다. 동시에 회사는 사용자의 '행동 연령'을 통해 계정 등록 연령에 이상이 없는지 확인하기 위해 백그라운드에서 '지속적 연령 추정' 시스템을 운영하고 있습니다.

시스템은 사용자가 플레이하는 기간, 선택한 게임 유형, 채팅에 사용되는 언어 스타일(예: "사춘기 어린이는 이전 세대와 매우 다른 언어를 사용합니다.")과 같은 신호를 고려하여 사용자에게 나이를 다시 확인하라는 메시지를 표시할지 여부를 결정합니다. Jacobs는 "완벽한 시스템은 없으며 때때로 실수를 한다는 것을 알고 있습니다."라고 인정했습니다. 회사는 오류 수정과 사용자 남용 방지 사이의 균형을 찾기를 희망합니다.

로블록스 본사 시연에 참여한 엄마 크리스타 캐롤은 디지털 시대에 자녀를 키우고 온라인 행동을 모니터링하는 것이 스트레스를 줄 수 있다고 말했다. 그녀는 기업의 안전 조치가 부모의 부담을 어느 정도 완화할 수 있다고 믿습니다. "Roblox가 이 문제를 심각하게 받아들이고 더 많은 개인 정보 보호 울타리를 설치하는 것을 보게 되어 기쁩니다."라고 그녀는 말했습니다. “더 많은 기업들이 이를 본보기로 삼아 우리 아이들을 어떻게 보호해야 할지 고민해 봤으면 좋겠습니다.”

동시에 Roblox는 유해한 콘텐츠에 맞서 싸우는 과정에서 대규모 개발자 커뮤니티와 마찰도 겪었습니다. 플랫폼에는 24,500명 이상의 게임 개발자가 있으며, 그 중 다수는 독립 애호가입니다. 그들은 함께 수천만 개의 사용자 제작 게임을 만들었습니다. 과거에는 거의 누구나 이러한 작품을 마음대로 출판할 수 있었기 때문에 플랫폼의 콘텐츠 규제가 매우 어려웠습니다.

올해 5월 Roblox는 개발자를 위한 새로운 출시 요구 사항을 도입했습니다. 즉, 16세 미만의 플레이어에게 공개되는 모든 게임의 경우 개발자는 신원 확인을 완료하고 2단계 인증을 활성화하며 "금융 보증금"을 지불해야 합니다. 구체적으로 개발자는 유료 구독을 구매하거나 게임당 1,000 Robux(플랫폼 내 가상 화폐)의 일회성 게시 비용을 지불합니다. 회사는 이를 악의적인 사용자가 불법 콘텐츠가 포함된 게임을 대량으로 업로드하는 것을 방지하기 위해 필터링 메커니즘을 추가한 것으로 보고 있습니다. 과거에는 포르노, 폭력 또는 기타 금지된 콘텐츠가 포함된 사용자 제작 게임이 플랫폼에 자주 등장하여 리뷰어가 제때에 감지하기가 어려웠습니다.

하지만 이 새로운 규정은 즉시 커뮤니티에서 강한 반발을 불러일으켰고, 많은 창작자들은 플랫폼이 소규모 개발자의 진입 장벽을 높여 각 작업에 대한 비용을 감당하기 어렵게 만들었다고 비난했습니다. Jacobs는 개발자가 플랫폼과 커뮤니티에 진정으로 관심을 갖고 "책임감 있게 창작"할 의향이 있는지 확인하는 데 이러한 종류의 재정적 헌신이 중요하다고 답했습니다. "우리는 수백만 명의 사용자를 위한 콘텐츠를 게시하는 개발자가 적절한 '마찰' 메커니즘을 통해 헌신하고 책임을 지도록 하고 싶습니다."라고 그녀는 말했습니다.

회사에 따르면 '키즈' 및 '셀렉트' 계정에 공개된 모든 게임은 온라인에 접속하기 전에 추가 검토를 거쳐야 합니다. 검토 프로세스에는 16세 이상 플레이어의 실시간 시범 플레이와 잠재적인 보안 위험이나 정책 위반을 식별하기 위해 현장에서 게임 프로세스를 관찰하는 플랫폼 관찰자가 포함됩니다. Jacobs는 회사가 안전 조치에 대해 회사에 월간 권장 사항을 제공하는 Roblox 제작자 그룹인 글로벌 "지역사회 안전 협의회"를 통해 피드백을 수집한다고 말했습니다. 하지만 그녀는 회사가 어떻게 소통하든 일부 변화는 논란의 여지가 있다는 점을 인정했습니다.

Jacobs는 “우리는 우리가 진정으로 믿는 안전하고 문명화된 미래에 대한 비전을 구축하고 있습니다.”라고 말했습니다. "때때로 어떤 사람들이 그것에 대해 화를 내더라도 우리는 괜찮습니다."