Meta의 새로운 AI 생성 스티커 도구에 대한 일부 초기 사용자 테스트에서 의심스러운 (그리고 매우 재미있는) 창작물이 탄생했습니다. X 사용자 @Pioldes는 Facebook 메신저에서 새로운 AI 생성 스티커 도구에 액세스한 후 소년병, 총을 겨누는 Nintendo 캐릭터, 똥 싸는 미키 마우스, 캐나다 총리 Justin Trudeau의 누드 일러스트 등 수많은 부적절한 스티커 이미지를 만들었습니다.
다른 예에서는 Meta의 AI 스티커 도구가 Sonic the Hedgehog 및 Karl Marx의 이미지와 같은 거의 모든 것에 가슴 한 쌍을 부착할 수 있음을 보여줍니다. 피카츄에게 모유수유를 하는 여성을 보여주는 스티커도 있습니다.
이 AI 생성 채팅 스티커는 Instagram의 새로운 AI 기반 사진 편집기 발표와 함께 지난주 Meta의 Connect 이벤트에서 발표되었습니다. AI로 생성된 스티커는 Meta의 Llama2 대규모 언어 모델(회사의 ChatGPT 경쟁사)에 의해 구동되므로 사용자는 텍스트 기반 프롬프트를 사용하여 "몇 초 만에 여러 개의 고유한 고품질 스티커를 만들 수 있습니다".
AI가 생성한 스티커는 현재 페이스북 스토리, 인스타그램 스토리, DM, 메신저, 왓츠앱 등 '일부 영어 사용자'를 대상으로 출시되고 있으며, 이번 달에도 계속해서 더 많은 사람들에게 출시될 예정이어서 얼마나 많은 사용자가 이 기능을 사용할 수 있을지는 불분명하다.
특정 단어는 차단된 것으로 보이며 프롬프트에서 해당 단어를 사용하면 해당 설명이 Meta의 커뮤니티 지침을 위반할 수 있음을 사용자에게 경고합니다. 그러나 다른 X 사용자들은 오타나 제한된 단어 설명을 사용하여 여전히 부적절한 콘텐츠를 생성할 수 있다고 보고했습니다. 어떤 경우에는 "세계 무역 센터"와 같은 프롬프트가 추가 설명 없이 문제의 이미지를 생성할 수도 있습니다.
이런 종류의 장난은 AI 도구 출시 중에 흔히 발생하며, 이것이 Meta가 AI 생성 스티커 출시를 제한하는 이유일 수 있습니다. 이렇게 하면 학대가 대중에게 퍼지기 전에 문제를 해결하고 바로잡을 수 있습니다.