요약:
생성 인공 지능 콘텐츠가 인터넷에서 급속히 확산되면서 디지털 콘텐츠의 진위 여부를 식별하는 것이 점점 더 중요해지고 있습니다. Google은 10월 7일 대중에게 공개된 SynthID 탐지 웹사이트를 공식 출시했습니다. 이를 통해 모든 사용자는 이미지, 비디오 또는 오디오 파일을 업로드하여 해당 파일이 인공 지능에 의해 생성 또는 편집되었는지 확인할 수 있습니다.
사실 이 도구는 아직 출시되지 않았습니다. 구글은 이르면 지난해 I/O 개발자 컨퍼런스에서 일부 언론인, 언론 기관, 연구자들에게 테스트 버전을 공개했으며, 이제는 대중의 AI 콘텐츠 식별 능력을 향상시키기 위해 전 세계 사용자에게 공식적으로 공개됐다.
2023년 처음 출시된 SynthID는 Google이 개발한 디지털 워터마킹 기술 집합입니다. 기존의 눈에 보이는 워터마크와 달리 SynthID는 콘텐츠 생성 시 육안과 귀에 감지할 수 없는 숨겨진 마크를 삽입하여 정상적인 사용 중에 콘텐츠가 영향을 받지 않고 후속 감지 시 식별할 수 있습니다.
현재 Nano Banana 이미지 모델, Veo 비디오 모델, Lyria 오디오 모델 및 Gemini, Flow, ProducerAI, Vids와 같은 콘텐츠 생성 기능을 갖춘 플랫폼을 포함하여 Google의 많은 인공 지능 모델 및 서비스가 이 기술을 채택했습니다. 이러한 도구를 통해 생성된 모든 미디어 콘텐츠에는 자동으로 SynthID 디지털 워터마크가 포함됩니다.
이번에 출시된 탐지 플랫폼은 다양한 파일 형식을 지원합니다. 사진의 경우 JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF 및 GIF를 지원합니다. 비디오의 경우 MP4, MOV 및 WEBM을 지원합니다. 오디오의 경우 WAV, MP3, OGG, FLAC, AAC 및 M4A와 같은 주류 형식을 지원합니다.
Google 자체 생태계 외에도 SynthID는 점차 산업 간 표준으로 발전하고 있습니다. OpenAI, 엔비디아, 국내 인터넷 기업 카카오는 이미 이 기술을 지원하고 있으며, 향후 애플도 지원 캠프에 합류할 것으로 전해진다. 이는 향후 사용자가 Google AI에서 생성된 콘텐츠를 식별할 수 있을 뿐만 아니라 다른 파트너 시스템의 미디어 파일도 감지할 수 있다는 의미입니다.
Google은 업그레이드된 감지 서비스가 이미 파트너의 디지털 워터마크를 식별할 수 있으며 더 이상 Google 자체 모델에서 생성된 콘텐츠로 제한되지 않는다고 밝혔습니다. 동시에 OpenAI는 사용자에게 독립적인 검증 채널을 제공하기 위해 자체 콘텐츠 감지 플랫폼도 보유하고 있습니다.
독립형 웹사이트 외에도 Google은 SynthID 감지 기능을 Gemini 앱과 Chrome 브라우저에 통합했습니다. 공식적으로 공개된 자료에 따르면, 이들 채널을 통해 사용자들이 제기하는 일일 콘텐츠 검증 요청 건수는 약 100만 건에 달해 AI 콘텐츠의 진위 여부를 확인하려는 대중의 요구가 급증하고 있음을 보여준다.
그러나 Google은 현재의 AI 콘텐츠 감지 기술이 완벽하지 않다는 점도 인정합니다. 디지털 워터마킹 솔루션은 관련 표준을 사용하여 생성된 콘텐츠만 식별할 수 있으며, SynthID 또는 기타 호환 표준을 사용하지 않는 AI 저작물은 감지하지 못할 수도 있습니다. 또한 여전히 여러 회사에서 서로 다른 마킹 및 검증 시스템을 사용하고 있으며 업계에서는 아직 통일된 표준을 형성하지 못했습니다.
동시에 Microsoft 및 Meta와 같은 기술 회사도 자체 디지털 워터마킹 및 콘텐츠 확인 솔루션을 발전시키고 있습니다. 그러나 일반적으로 업계에서는 Google이 출시하든 다른 제조업체에서 출시하든 감지 도구에는 여전히 특정 제한 사항이 있다고 생각합니다. 어떤 경우에는 자체 모델에서 생성된 콘텐츠를 정확하게 식별하지 못하는 경우도 있습니다.
그럼에도 불구하고 딥페이크 동영상, AI 사진, 음성 합성 콘텐츠가 점점 일반화되는 등 AI 생성 콘텐츠의 양이 계속 증가함에 따라 Google이 SynthID 플랫폼을 대중에게 공개하는 것은 기술 업계가 콘텐츠 투명성을 개선하고 허위 정보에 맞서기 위한 중요한 단계로 간주됩니다. 미래에는 더 많은 기업이 통합 디지털 워터마크 생태계에 참여함에 따라 인터넷 사용자는 온라인 콘텐츠의 실제 소스를 결정하는 데 더 신뢰할 수 있는 도구를 갖게 될 것입니다.
댓글