Google이 Gemini를 출시한 후 Meta는 사용자가 자연어 설명을 통해 이미지를 만들 수 있도록 인터넷에서 새로운 독립적인 인공 지능 생성 경험인 "Imagine with Meta"(Imagine with Meta)도 출시했습니다.
OpenAI의 DALL-E, Midjourney 및 StableDiffusion과 유사하게 ImaginewithMeta는 Meta의 기존 Emu 이미지 생성 모델을 기반으로 텍스트 프롬프트를 기반으로 고해상도 이미지를 생성합니다. 미국 사용자에게는 무료이며(적어도 현재는) 프롬프트당 4개의 이미지를 생성합니다.
"우리는 MetaAI의 텍스트-이미지 생성 기능인 Imagine을 사용하여 채팅에서 재미 있고 창의적인 콘텐츠를 만드는 방법에 대한 사람들의 의견을 듣고 기쁘게 생각합니다. 오늘 우리는 Imagine을 채팅 외부에서 사용할 수 있는 방법을 확장하고 있습니다."라고 Meta는 오늘 아침에 게시된 블로그 게시물에서 썼습니다. "저희 메시징 경험은 더욱 재미있는 상호 작용을 위해 설계되었지만 이제 웹에서도 무료 이미지를 만들 수 있습니다.
이제 Meta의 이미지 생성 도구는 최근 회사를 뜨거운 물에 빠뜨렸으며(예: Meta가 인종적으로 편향된 AI 스티커 생성기를 제공했다는 비난을 받음) Imagine with Meta가 역사가 반복되는 것을 방지하기 위한 보호 장치가 마련되어 있는지에 대한 의문을 제기합니다.
워터마크는 처음부터 사용할 수 없지만 Meta는 "투명성과 추적성을 높이기" 위해 몇 주 안에 ImaginewithMeta에서 생성된 콘텐츠에 워터마크를 추가하기 시작할 것을 약속합니다. 메타는 이러한 워터마크는 눈에 보이지 않으며 인공지능 모델에 의해 생성되고 해당 모델에 의해 감지될 것이라고 말했습니다. 탐지 모델이 어느 시점에 공개될지에 대해서는 아직 알려진 바가 없습니다.
"[워터마크]는 자르기, 크기 조정, 색상 변경(밝기, 대비 등), 스크린샷, 이미지 압축, 노이즈, 스티커 오버레이 등과 같은 일반적인 이미지 조작에 저항합니다."라고 Meta는 게시물에서 말했습니다. "우리의 목표는 앞으로 AI가 생성한 이미지가 포함된 많은 제품에 눈에 보이지 않는 워터마크 기술을 구현하는 것입니다."
생성 예술 워터마킹 기술은 새로운 것이 아닙니다. 프랑스 스타트업 Imatag는 이미지 크기 조정, 자르기, 편집 또는 압축에 영향을 받지 않는다고 주장하는 워터마킹 도구를 제공합니다. 또 다른 회사인 Steg.AI는 인공 지능 모델을 사용하여 크기 조정 및 기타 편집을 견딜 수 있는 워터마크를 적용합니다. Microsoft와 Google은 AI 기반 워터마킹 표준 및 기술을 채택했으며, 다른 곳에서는 Shutterstock과 Midjourney가 콘텐츠가 AI 생성 도구로 생성되었음을 나타내기 위해 마크업 삽입에 대한 지침에 동의했습니다.
그러나 특히 가자 전쟁에서 딥페이크가 확산되고 필터를 우회하는 AI가 생성한 아동 학대 이미지를 고려할 때, 저작물이 AI에 의해 생성된다는 점을 더 명확하게 해야 한다는 압력이 기술 회사에 가중되고 있습니다.
최근 중국 사이버 공간 관리국에서는 인공 지능 생성기 제조업체가 사용자 사용에 영향을 주지 않고 생성된 콘텐츠(텍스트 및 이미지 생성기 포함)에 라벨을 지정하도록 요구하는 규정을 발표했습니다. 최근 미국 상원 위원회 청문회에서 Kyrsten Sinema 상원의원은 워터마크 사용을 포함하여 생성 AI의 투명성이 필요하다고 강조했습니다.