요약:
보안 연구원 Xusheng Li가 발표한 역분석 보고서에 따르면 Microsoft는 그림판 및 사진/앨범 애플리케이션의 AI 생성 사진에 보이지 않는 블라인드 워터마크를 추가할 예정입니다. 블라인드 워터마크에 사용되는 식별자는 Microsoft 서버에서 제공되며 이 메커니즘은 사용자가 스스로 켜거나 끌 수 있는 Microsoft Copilot 워터마크와 완전히 독립적이므로 사용자가 블라인드 워터마크를 완전히 끌 수는 없습니다.
AI PC에서 이미지를 로컬로 생성하려면 여전히 Microsoft 서버에 연결해야 합니다.
연구 결과에 따르면 Paint의 생성 기능은 애플리케이션은 AI PC를 사용할 수 있습니다. 로컬 안정 확산 모델은 이미지를 생성하지만 전체 프로세스가 완전히 오프라인은 아닙니다. 생성을 시작하기 전에 그림판 응용 프로그램은 검토를 위해 사용자가 입력한 프롬프트 단어와 선택한 스타일을 Microsoft 서버로 보냅니다. 그런 다음 서버는 수정된 프롬프트 단어, 프롬프트 단어 생성 ID 및 워터마크 ID를 반환한 다음 NPU 장치를 통해 컴퓨터에 로컬로 그림이 생성됩니다.
이미지가 생성된 후 그림판 애플리케이션은 블라인드 워터마크 컨트롤을 호출하여 서버에서 반환한 16바이트 블라인드 워터마크 관련 매개변수를 이미지 픽셀에 씁니다. 블라인드 워터마크 자체는 육안으로 볼 수 없지만 Microsoft는 특정 감지 메커니즘을 통해 그림판 응용 프로그램에서 이미지가 생성되었는지 여부를 식별할 수 있습니다.
GUID 식별자는 이미지 픽셀에 직접 기록됩니다.
역분석에 따르면 블라인드 워터마크 메커니즘은 16 바이트 GUID는 144비트 데이터로 확장된 다음 이미지의 여러 블록을 약간 수정하여 포함되었습니다. 연구원들은 테스트를 위해 512x512 픽셀 이미지를 사용했습니다. Microsoft가 블라인드 워터마크를 추가한 후 190,000개 이상의 픽셀이 약간 변경되었습니다.
더 주목할만한 점은 그리기 애플리케이션에서 블라인드 워터마크 메커니즘 작성에 실패할 경우 워터마크가 없는 이미지를 반환하는 대신 AI 이미지 생성 작업을 직접 실패로 간주한다는 점이다. 마이크로소프트에서는 이 과정을 AI 생성에 꼭 필요한 연결고리로 간주하고, 블라인드 워터마크 마크가 완성되지 않으면 이미지가 생성되지 않는다는 것을 알 수 있다.
스크린샷/자르기 등은 Microsoft 인식에 영향을 주지 않습니다.
그림판 애플리케이션은 픽셀 수정 외에도 업계 전반의 C2PA 콘텐츠 인증서를 이미지에 추가합니다. 연구진은 실제 생성된 PNG 파일을 확인한 결과 C2PA 목록에 AI가 생성한 이미지가 명확하게 표시되었을 뿐만 아니라 Microsoft InvisMark 블라인드 워터마크 정보도 기록되어 있음을 발견했습니다.
여기에 저장된 워터마크 값은 이전에 서버에서 반환되어 실제로 이미지 픽셀에 기록된 블라인드 워터마크 ID와 정확히 동일합니다. 이는 Microsoft가 실제로 C2PA 메타데이터 + 이미지 픽셀에 숨겨진 보이지 않는 워터마크라는 두 가지 원본 증명 레이어를 사용하고 있음을 의미합니다. 따라서 사용자가 특정 도구를 통해 C2PA 메타데이터를 삭제하더라도 Microsoft는 여전히 픽셀을 통해 워터마크를 식별할 수 있습니다. 예를 들어, 간단한 스크린샷, 자르기 등은 블라인드 워터마크를 완전히 제거할 수 없습니다.
또한 Microsoft의 사진/앨범 애플리케이션의 AI 이미지 생성 및 스타일 변환 기능도 블라인드 워터마크 메커니즘을 사용합니다. 몇 가지 차이점은 다음과 같습니다. 그림판 응용 프로그램이 워터마크 쓰기에 실패하면 이미지 생성이 직접 종료되는 반면, 앨범 응용 프로그램은 오류를 기록하고 생성된 결과를 계속 반환합니다.
댓글