Meta는 최근 회사의 최신 AI 세대 모델(예: Muse)이 생성한 이미지에 보이지 않는 워터마크를 삽입하여 네티즌이 실제 콘텐츠와 딥 페이크를 구별할 수 있도록 돕는 새로운 AI 콘텐츠 감지 시스템인 'Content Seal'을 공식 출시했습니다. 그러나 이 새로운 시스템의 출시는 업계로부터 호평을 얻지 못했습니다. 오히려 그 필요성과 실용성에 대한 광범위한 의구심을 불러일으켰습니다.

Content Seal의 핵심 작동 원리는 Google의 작동 원리와 유사하다고 이해됩니다.SynthIDC2PA의 콘텐츠 자격 증명과 유사하게 육안으로 볼 수 없는 추적성 신호가 AI 생성 콘텐츠에 내장되어 있습니다. 이미지가 잘리거나, 압축되거나, 크기가 조정되거나, 스크린샷이 캡처되더라도 감지 도구에서는 워터마크를 계속 인식할 수 있습니다. 기능적 논리는 기존 표준과 많이 중복되지만 메타는 여러 거대 기업이 지원하는 성숙한 생태계에 합류하는 것을 선택하지 않고 독립적으로 새로운 독점 시스템을 만들기로 결정했습니다.

분석 결과, Content Seal은 현 단계에서 많은 한계를 명백히 드러냈다는 점을 지적했습니다. 우선, 현재 사용자는 Meta가 테스트하고 있는 테스트만 통과할 수 있습니다.독점 웹 도구테스트를 위해 Meta는 아직Google은 Gemini에서 그렇게 합니다.이 탐지 기능을 주요 챗봇 제품에 직접 통합합니다. 둘째, 이 워터마크는 현재 Meta AI 애플리케이션 및 웹사이트에서 Muse 모델로 생성된 이미지에만 적용 가능합니다. Meta의 이전 AI 모델을 커버할 수 없을 뿐만 아니라 생성된 비디오 콘텐츠에 대한 지원도 아직 출시되지 않았습니다.

또한 Meta는 시스템의 악의적인 남용을 방지하기 위해 탐지 도구에 일일 사용 제한을 부과하는데, 이는 쿼리 제한을 설정하지 않는 C2PA 표준과 뚜렷한 대조를 이룹니다. 관련 미디어 테스트에서도 잘린 이미지에 직면했을 때 Content Seal의 감지 성공률이 낮은 것으로 나타났습니다. 업계에서는 제너레이티브 AI(Generative AI) 열풍이 전 세계를 휩쓸면서 메타가 자체 개발한 시스템을 기능이 제한되고 출시가 늦어진 것으로 보고 있다. 전체 네트워크의 AI 투명성을 효과적으로 향상시키지 못했을 뿐만 아니라, 대신 주류 사용자가 콘텐츠의 진위 여부를 확인하는 데 불필요한 장애물을 추가했습니다.