Xiaohongshushu Butler는 사이트 사용자에게 AI 생성 합성 콘텐츠를 적극적으로 식별하도록 요청하는 발표를 발표했습니다. Xiaohongshu는 "최근 플랫폼은 AI 생성 합성 기술을 사용하여 공인의 이미지를 모방하고 허위 동영상을 제작하는 사용자로부터 여러 건의 신고를 받았습니다. 허가 없이 제작된 이러한 콘텐츠는 공인의 정당한 권익을 침해하며 일부 컨텐츠에는 AI 생성/합성이라는 라벨이 적극적으로 지정되지 않아 커뮤니티 사용자의 신뢰를 손상시킵니다."라고 발표했습니다.
이를 위해 Xiaohongshu는 사용자 식별을 용이하게 하기 위해 AI가 생성하고 합성한 이미지, 텍스트 또는 비디오 콘텐츠를 게시할 때 AI가 생성한 합성 로고를 적극적으로 추가할 것을 사용자에게 요청합니다. AI 창작 방식에 주목하면 작품의 가치가 떨어지지 않고 소통이 더욱 투명해진다.
Xiaohongshu는 "'인공지능이 생성한 합성 콘텐츠 라벨링 조치'의 요구 사항에 따라 플랫폼은 AI가 생성한 합성 콘텐츠의 식별 및 감지 기능을 지속적으로 강화할 것입니다. 창작자가 게시 과정에서 AI가 생성한 합성 콘텐츠를 적극적으로 표시하지 않으면 플랫폼은 감지 결과를 기반으로 미신고 콘텐츠에 라벨을 추가합니다. 플랫폼은 적극적으로 표시되지 않은 AI가 생성한 합성 콘텐츠의 배포를 제한할 것입니다."라고 말했습니다.
플랫폼은 AI를 사용하여 허위 및 위조 정보를 생성하고, 고전을 수정하고, 나쁜 가치를 홍보하고, AI 로고 제거를 유도하는 튜토리얼을 게시하는 콘텐츠를 엄격하게 단속할 것입니다.
샤오홍슈는 "다음으로 플랫폼은 AI 로고와 AI 가짜 콘텐츠 식별을 지속적으로 개선할 예정이다. 샤오홍슈가 플랫폼 공동 거버넌스에도 적극적으로 참여하는 것을 환영한다"며 "AI로 인해 생성된 유해 콘텐츠를 발견하면 신고 버튼을 통해 최대한 빨리 플랫폼에 신고해달라"고 말했다.