온라인 게임 플랫폼 로블록스(Roblox)는 최근 인공지능을 기반으로 한 실시간 채팅 다시 쓰기 기능을 출시했다고 발표했습니다. 플레이어가 불법 콘텐츠가 포함된 메시지를 보낼 때 시스템은 더 이상 단순히 "#" 기호로 이를 차단하는 것이 아니라 사용자의 원래 표현 의도에 최대한 가깝게 노력하면서 관련 표현을 보다 정중하고 플랫폼에 맞는 언어로 자동으로 다시 작성합니다. Roblox는 과거에는 "####"의 큰 단락이 대화의 리듬을 방해할 뿐만 아니라 플레이어가 맥락을 이해하기 어렵게 만들었다고 밝혔습니다. 따라서 Roblox는 이 방법을 사용하여 커뮤니티 표준을 정중하게 유지하면서 채팅 프로세스의 마찰을 줄이기를 희망합니다.
새로운 메커니즘에서는 사용자가 민감한 단어가 포함된 콘텐츠를 입력하면 채팅 창에 다시 작성된 텍스트가 직접 표시되고 대화에 참여하는 모든 사용자에게 메시지가 다시 작성되었음을 알리므로 친근하고 명확한 의사소통 분위기를 유지할 수 있습니다. 예를 들어, 보고서에는 "Hurry TF up!"이라는 문장이 명시되어 있습니다. "####"으로 완전히 차단되었던 단어가 이제 "Hurry up!"과 같은 좀 더 중립적인 표현으로 변경됩니다. Roblox의 사용자 및 검색 제품 담당 부사장인 Rajiv Bhatia는 보도 자료에서 채팅은 플랫폼에서 플레이어의 소셜, 협업 및 플레이 경험의 핵심이며 실시간 재작성은 사용자가 게임의 리듬을 방해하지 않고 보다 적절한 용어를 사용하도록 안내하는 데 도움이 된다고 말했습니다.
Bhatia는 이 기능이 '침묵보다는 다듬기'를 통해 채팅의 장애물을 줄이는 한편, 여전히 플랫폼의 원래 보안 표준을 유지하며 더 심각한 위반을 처리하기 위해 엄격한 보안 시스템이 계속 사용될 것이라고 강조했습니다. Roblox는 새로 출시된 실시간 재작성 기능이 다국어 사용자 기반을 포괄하기 위해 현재 플랫폼의 자동 번역 도구가 지원하는 모든 언어에 적용 가능하다고 지적했습니다.
새로운 다시 쓰기 기능 외에도 Roblox는 불법 언어의 더 많은 변형을 식별하기 위해 텍스트 필터링 시스템을 업그레이드했습니다. 회사는 개선 후 검열을 피하기 위해 'Leetspeak' 및 더 복잡한 글쓰기 방법을 식별하는 시스템 성능이 향상되어 개인 정보를 공유하거나 요청하는 시나리오에서 '누락'이 크게 줄어들고 관련 오판 비율이 약 20배 감소했다고 회사측은 밝혔습니다.
이번 업데이트는 Roblox가 플랫폼에 대한 보안 조치를 강화하는 가운데 이루어졌습니다. Roblox는 텍사스, 켄터키, 루이지애나 주 법무장관이 플랫폼에 아동 안전에 심각한 숨겨진 위험이 있다고 주장하며 제기한 여러 소송에 직면한 후 올해 2월 플랫폼 채팅에 얼굴 인증을 의무화했습니다. 이번 소송은 Roblox가 미성년자 사용자를 사기 및 노골적인 콘텐츠 등 고위험 환경에 노출시켜 지속적인 규제 조사와 보안 메커니즘에 대한 압력을 가한다는 연구 기관의 여러 조사 보고서와 비난에서 비롯되었습니다.
규제 압력과 커뮤니티 안전 요구에 따라 Roblox는 이번에 실시간 AI 재작성과 강력한 텍스트 필터링을 결합하여 어린이와 청소년의 안전을 보장하는 동시에 게임 내 채팅의 일관성과 가독성을 최대한 유지하려고 노력합니다.