OpenAI의 이미지 생성기 DALL-E3는 더 많은 회사가 C2PA(Content Authenticity Alliance) 표준에 대한 지원을 출시함에 따라 이미지 메타데이터에 워터마크를 추가할 예정입니다. 회사는 C2PA의 워터마크가 ChatGPT 웹사이트에서 생성된 이미지와 DALL-E3 모델의 API에 나타날 것이라고 말했습니다. 모바일 사용자는 2월 12일까지 워터마크를 받게 됩니다. 워터마크에는 눈에 보이지 않는 메타데이터 구성 요소와 눈에 보이는 CR 기호가 포함되며 각 이미지의 왼쪽 상단에 나타납니다.
사람들은 콘텐츠 자격 증명 확인과 같은 사이트를 통해 OpenAI 플랫폼에서 생성된 모든 이미지의 출처(즉, 콘텐츠를 생성하는 데 사용된 AI 도구)를 확인할 수 있습니다. 지금까지는 동영상이나 텍스트가 아닌 정적 이미지만 워터마킹할 수 있습니다.
OpenAI는 이미지에 워터마크 메타데이터를 추가해도 "대기 시간에 미미한 영향을 미치며 결과 이미지의 품질에는 영향을 미치지 않습니다"라고 말합니다. 또한 일부 작업의 경우 이미지 크기가 약간 늘어납니다.
어도비, 마이크로소프트 등으로 구성된 C2PA 그룹은 콘텐츠의 출처를 확인하고, 그것이 인간이 제작한 것인지 인공지능이 제작한 것인지를 보여주기 위해 '콘텐츠 인증서' 워터마크 사용을 추진해 왔다. Adobe는 OpenAI가 DALL-E3 제작에 추가하는 콘텐츠 바우처 기호를 만들었습니다. Meta는 최근 소셜 미디어 플랫폼의 AI 생성 콘텐츠에 태그를 추가할 것이라고 발표했습니다.
AI 생성 콘텐츠를 식별하는 것은 바이든 행정부의 인공지능 행정명령의 핵심 지침 중 하나이다. 그러나 워터마크는 잘못된 정보를 막는 확실한 방법은 아닙니다. OpenAI는 C2PA의 메타데이터가 "실수로 또는 의도적으로 쉽게 삭제될 수 있다"고 지적했습니다. 특히 대부분의 소셜 미디어 플랫폼은 일반적으로 업로드된 콘텐츠에서 메타데이터를 삭제하고 스크린샷도 이미지에서 메타데이터를 생략하기 때문입니다.
OpenAI는 웹사이트에서 "우리는 이러한 방법을 사용하여 출처를 결정하고 사용자가 이러한 신호를 인식하도록 장려하는 것이 디지털 정보의 신뢰성을 높이는 데 핵심이라고 믿습니다."라고 밝혔습니다.