2024년 10월, 쇼트비디오 플랫폼에 샤오미 CEO '레이쥔'의 더빙 영상이 대거 등장하면서 다양한 더빙 모방, 스푸핑 영상이 속속 등장했다. 사실 이 영상 속 목소리는 레이준이 직접 목소리를 낸 것이 아니라 AI가 더빙한 것입니다.스푸핑 기업가 레이쥔(Lei Jun)부터 장웬홍(Zhang Wenhong) 박사의 음성과 영상을 AI로 제작해 스스로 상품을 판매하는 것까지, AI를 이용해 영상을 심층 합성해 사기를 저지르는 범죄자도 있다.
지난 해 AI 심층 합성 오디오 및 비디오 침해 현상이 점점 더 심각해졌습니다.
최근 CCTV뉴스는 AI가 합성한 연예인 오디오와 영상의 혼란을 폭로했다.
이전에도 일부 네티즌들은 AI가 생성한 앤디 라우의 음성을 이용해 스스로 트래픽을 확보한 바 있다. 앤디 라우 영화사 역시 긴급 성명을 발표해 네티즌들에게 앤디 라우의 목소리를 위조하는 AI 음성 합성 기술 사기에 빠지지 않도록 주의를 당부했다.
CCTV 뉴스 조사에 따르면 오디오와 비디오의 AI 심층 합성을 달성하는 것은 어렵지 않으며 일부 쇼핑 플랫폼에서도AI 심층 합성 기술은 많은 온라인 상점의 수익 창출 도구가 되었습니다. 유명인 오디오 및 비디오의 AI 심층 합성을 맞춤화하는 데 드는 비용은 수십 위안뿐입니다.
전문가들은 이렇게 말했습니다.관련 법률 및 규정에서는 타인의 정보를 무단으로 심층 합성, 생산, 공개하는 것을 금지하고 있음을 명확히 규정하고 있습니다.
연예인 영상 제작을 위한 심층 AI 합성 주문을 받은 온라인 상점은 이미 침해 행위이므로 이에 상응하는 법적 책임을 져야 한다.
또한, 연예인뿐만 아니라 일반인, 심지어 애니메이션 이미지까지 본인이나 저작권자의 동의 없이 AI를 이용해 음성과 영상을 합성하는 경우에도 침해로 판단되어 법적인 책임을 져야 합니다.