4월 20일, iQiyi 월드 컨퍼런스에서는 'AI 아티스트 라이브러리'라는 것을 발표했습니다. 이미 100명이 넘는 아티스트가 자리를 잡았고, 이들 배우들은 AI를 통해 1년에 드라마 4개에서 14개 드라마까지 연기할 수 있어 '쉬는 시간이 더 많아진다'고 한다. 처음 생방송을 보기 시작했을 때 '이건 좋은 일이구나'라고 생각했어요. 배우들이 여유로워졌고, 생산량도 늘어났다. 윈윈(win-win) 상황이었습니다. 바로 이것이다 "쉴 시간이 더 많아"어느 정도 흥미롭고 가치가 있어요.


그러다가 같은 날 오후 장루오윤 스튜디오는 긴급 성명을 내고 AI 관련 승인에 서명한 적이 없으며 법률 문제가 긴급하게 처리되고 있다고 밝혔다. 직후 유허웨이 스튜디오(Yu Hewei Studio)와 당시 지원그룹 왕추(Wang Chu)도 목소리를 냈다.

세 회사의 진술은 모두 같은 내용을 담고 있습니다. 나는 당신의 AI가 내 얼굴을 사용하도록 허용하지 않습니다. 소문을 퍼뜨리지 마세요.

해당 스튜디오의 게시글은 물론, 팬들과 네티즌들 역시 이 문제에 대해 낙관적이지 않았습니다. #iQIYICrazy#라는 용어가 웨이보 인기 검색어로 바로 올라갔습니다.


아마도 대중의 분노로 인해 iQiyi의 주가도 폭락하여 공식적인 해명을 발표하게 되었습니다. 공유 대표 역시 웨이보에 3개 연속 게시물을 올려 해명했다.

그러나 그 효과는 평균적이라고 할 수 있습니다. 여론은 억제하기 어려워 공식 위챗 계정의 댓글란은 폐쇄되었습니다. 분명히 이번에는 사용자를 정말 불안하게 만들었습니다.


사실 아무도 사지 않더라구요일체 포함연예인의 계정이 다루어진 것은 이번이 처음은 아니다.

지난달 Yaoke Media는 'Lin Xiyan'과 'Qin Lingyue'라는 두 명의 AI 배우를 출시하고 드라마 시리즈에 직접 출연했습니다.

그 결과 네티즌들은 이 두 AI의 얼굴 특징이 많은 실제 스타들의 특징과 고도로 통합되어 있다는 사실을 금방 알아냈고, 심지어 #AI배우 시체 조립#이라는 항목도 바로 화제에 오르며 해당 주제에 대한 조회수가 수천만 건에 달했습니다.

비록 이 파도아티스트와 팬, 여론, 업계 전체가 동시에 폭발하게 만들었지만,이것에 대해 단지 한 가족만을 비난할 수는 없습니다.플랫폼.

이 문제는 아니기 때문에끝플랫폼에 관한 것입니다.업계 전체의 대세입니다.


국내는 물론 해외 연예계의 AI 갈등도 여기보다 더 심하다.

2023년 할리우드는 63년 만에 처음으로 작가와 배우의 이중 파업을 겪었고, 핵심 이슈 중 하나는 AI였다. 제작자의 계약 갱신 조건에는 다음과 같이 명시되어 있습니다. 스캔 후 배우(엑스트라 포함)는 AI를 통해 디지털 아바타로 재창조될 수 있으며 무제한으로 사용할 수 있습니다.

그렇다면 이 구매 비용은 얼마입니까?

하루치 임금입니다.

하루 월급으로 평생 얼굴을 사는 것은 터무니없는 일입니다.

파업은 수개월 동안 지속됐고 결국 디지털 초상화에 대한 개인 동의를 요구하고 배우의 작품을 AI 훈련에 무단으로 사용하지 않는 등 일부 보호 조항을 획득했습니다.

그러나 2년 뒤 노조는 금지만으로는 막을 수 없다는 점을 스스로 인정하면서 조건협상에 대한 확고한 저항에서 물러나기 시작했다.


세계에서 가장 성숙한 노동조합 제도와 가장 완전한 단체교섭 메커니즘에도 칩이 몇 개 더 있을 뿐이며 전반적인 방향은 변하지 않았습니다.

iQiyi가 도울 수 없다면 할리우드도 이를 막을 수 없습니다. 그러면 내가 또 무슨 말을 할 수 있겠는가? 나는 단지 말할 수 있습니다일체 포함배우 교체는 세계적인 추세가 됐다.

결국 이것은 빠르고 안정적이며, 집을 무너뜨리지도 않고, 한밤중에 웨이보에 올려도 문제를 일으키지 않고, 무한정 재사용이 가능합니다. 노동력과 불확실성이 감소되었습니다. 비용을 기준으로 비교해보면 실사 제작진은 한 발짝 떨어져 있을 뿐이다.

어떤 사람들은 이 글을 읽고 당신의 댓글이 너무 폭력적이라며 샤오자오를 비난할 수도 있습니다.

하지만 여기에 문제가 있습니다.


얼마전 우시에 가서 실사단편드라마에서 AI단편드라마로 변신한 회사를 방문했습니다. 지난해 AI 단편 드라마 트랙으로 전환해 올해 2월쯤 집중 테스트를 진행했다. 아직 실사 단편 드라마를 준비 중이지만 AI는 이미 그들의 방향이 확실하다.

실사 단편 드라마의 평균 프로젝트 비용은 400만~500만 위안, 프리미엄 프로젝트의 경우 800만 위안 이상, 촬영 기간은 보름 정도라고 합니다.

이번에 만든 AI 단편드라마는 프로젝트 수립부터 샘플 제작까지 단 4일밖에 걸리지 않았다. 컴퓨팅 파워 비용과 인건비를 더한 비용은 분당 2,000위안 미만이었습니다.

인건비를 예로 들어보자. 변신 후 전체 팀 구조가 변경되었습니다. 핵심은 드로잉 카드를 담당하는 디렉터, 편집자, 애니메이터입니다. 실사단편드라마에서 사람이 반드시 해야하는 사진, 조명, 모델, 미술 이 네 가지 작업은 AI단편드라마에서는 모두 빠져 있다.


반달을 소비하는 데 수백만 달러가 소요되는 반면, 며칠 만에 완료할 수 있으며 총 비용도 10배 이상 절감됩니다. 당신이 실무자라면 똑같이해야합니다.

열정이 무엇인지는 중요하지 않습니다. 사업은 사업입니다.

그러나 우리는 AI가 실제로 일부 실제 성능을 대체하기에 충분하다는 점을 인정해야 합니다. 그리고 어떤 것들은 교체하는 것이 나쁜 것이 아닙니다.

얼마 전 히트했던 'Chasing Jade'를 예로 들어보자. 남자 주인공은 정교한 분장을 하고 전장에 나가 가짜 전동마를 탔다. 그는 리퀴드 파운데이션 장군이라는 이유로 인터넷 전체에서 조롱을 받았습니다.

그러다가 13년 전 '초한전'에서 항우와 허윤동 역을 맡았다. 그는 갑자기 유명해졌습니다. 열흘 만에 그의 Douyin 팔로어가 100만 명 증가했고, 화제 수는 12억 건을 넘어섰습니다.

관객은 바보가 아니며 AI가 실제 인물을 포용하는 것을 자연스럽게 거부하지 않습니다. 항우 역을 맡은 피터 호의 몸무게는 95kg으로 늘어났고, 영하 20도에서 2주 동안 상의를 벗은 채 촬영됐다. 모든 서커스 장면에 스턴트 대역이 필요하지 않았기 때문에 관객들은 자연스럽게 그를 기억에서 꺼내었습니다.


그리고 게으르고, 속이 비어 있고, 조립 라인에 있으며, 전혀 심각하게 다듬어지지 않은 콘텐츠는일체 포함제거도 모두가 환영합니다.

예를 들어 같은 기간 조회수 5억 회를 기록한 AI 단편 드라마 '화취빙'은 총 48시간이 걸렸고 컴퓨팅 파워는 3000위안밖에 들지 않았지만 이미 영화에 가까워졌다.

그래서 업계에서는가지다판결,설명하다앞으로도 주연배우들은 남을 것이고, 2선과 3선은 기본적으로 포괄적이 될 것이다.일체 포함이 되다.

논리적으로는 일리가 있지만 사실 모두가 좋아하는 연기 장면 중 상당수는 배우의 진짜 감정이고, 이런 소통의 계기가 만들어지지 않는 경우가 많다. 2, 3급 배우가 관객에게 눈에 띄기도 전에 AI로 대체된다면 업계에 1급 배우가 계속 남을 수 있을까?

이에 대해서는 더 이상 논의하지 않겠습니다.어쨌든 관객들이 정말 불만족스러워서 이제 일부 공허한 공연이 시장에서 사라지는 것은 불가피합니다.


좋아, 연예계에서는 그게 전부지만, 외부인으로서 우리는 안전하지 않을 수도 있습니다.

결국 제거는 제거를 의미합니다. 모든 사람의 권리를 침해하면서 사람을 제거할 수는 없습니다. 앞서 말씀드린 것처럼 하루치 월급을 이용해 얼굴 전체와 신체 초상권을 구매하는 것은 사실상 공식적인 절차입니다.

그리고 일부 생산자들은 비록 그들이 당신의 얼굴을 가져가서 먹이를 주더라도일체 포함별도 공지도 없이 영상으로 제작됩니다.

즉, 배우뿐만 아니라 소셜 플랫폼에 게시하는 모든 셀카는 다른 사람이 도난당하고 사용할 수 있습니다.


며칠 전 Hanfu 메이크업 블로거 Baicai Hanfu Zhuzao는 Hongguo 단편 드라마에 "복숭아 꽃 머리핀"이라는 AI 고대 스타일 단편 드라마가 있다는 것을 발견했습니다. 그 안에 등장하는 인물 중 한 명이 자신의 얼굴을 사용했습니다. 의상부터 메이크업까지 샤오홍슈에 나온 사진과 똑같았어요.

이 드라마는 총 72부작으로, 인기가 4천만이 넘는다. 플랫폼에서 인기 있는 드라마입니다. 그 결과 이 ​​인기 드라마는 수많은 아마추어들의 얼굴을 훔쳐갔다.

한푸 콘텐츠를 소셜 미디어에 진지하게 올리는 블로거 바이차이는 이 드라마에서 탐욕스럽고 호색적인 악당으로 등장한다. 또 다른 Little Red Book 블로거인 Qihai도 드라마에 얼굴을 훔쳐 광대 역을 맡아 수천만 명의 스크린에 등장했습니다.


사건 이후 우리는 바이차이에게 연락했습니다. 그는 지난 이틀 동안 자신의 권리를 변호하기 위해 변호사들과 접촉했는데, 이는 매우 에너지 소모적이었다고 말했습니다. 신고하러 플랫폼 고객센터에 갔더니 이메일 주소와 링크를 입력하라는 요청이 계속해서 꽤 번거로웠습니다.

이 기간 동안 단편 드라마 관계자라고 주장하는 누군가가 그에게 개인적으로 연락했지만 홍국단편극장이 마침내 '복숭아꽃 머리핀'을 진열대에서 삭제하고 제작자가 15일 동안 업로드를 중단할 때까지 아무 일도 일어나지 않았습니다.

연예인의 얼굴이 도용되면 최소한 스튜디오, 법무, 뜨거운 검색이 관련됩니다. 우리 같은 평범한 사람들이 그것이 도난당한 것을 알게 된다면 운이 좋을 것입니다.


하지만 다행스럽게도 지금 누군가가 이 문제를 처리하고 있습니다.

4월 2일, 중국전파사회단체연맹 배우위원회는 AI 공연예술 콘텐츠의 승인 및 검증을 위한 장기적인 메커니즘 구축을 요청하는 성명을 발표했습니다. 4월 1일부터 AI 만화도 등록 및 심사 시스템에 공식적으로 포함되며 인증서를 사용해 작업할 수 있습니다.

국가광전영화TV국은 AI 제작 드라마 시리즈에 대한 관리 고시를 조사 및 준비하고 있으며, 홍궈 단편 드라마도 콘텐츠 검토를 강화하겠다고 밝혔습니다.

이것을 규제하자.,그 사람은 현상보다 반박자 느린 게 틀림없어.하지만항상 따라갈 것입니다.

우시의 단편 드라마 회사에서는 이제 대부분의 캐릭터가 대본의 텍스트 설명에 따라 중간에 약간의 조정을 거쳐 직접 그려진다고 말했습니다.

현재의 규정 준수 접근 방식은 먼저 주인공을 특허청에 데려가 가상 디지털 인물에 대한 특허를 신청하는 것입니다. 등록 시 작업 흐름 기록, 프롬프트 단어, 이미지를 직접 제작했음을 증명할 수 있는 사진을 제공해야 합니다. 또 다른 방법은 실제 배우나 인터넷 유명인으로부터 초상 인증을 받는 것입니다.


하지만 솔직히 말해서 문제는 실제로 해결하기가 쉽지 않습니다.

예를 들어 제작진이 AI 이미지를 만든다면, 등록이 되어 있어도 플랫폼이 일반인의 얼굴처럼 생겼다고 인식할 수 있을까? 감사를 판단하는 방법은 무엇입니까?

반면, 대형 모델은 훈련 과정에서 대량의 공개 데이터를 소비하는데, 이는 그 자체로 침해의 원인이 될 수 있습니다. 제작자가 의도한 것이 아닐 수도 있지만, 생성된 얼굴이 실제 사람을 때렸을 수도 있습니다.

예를 들어, 오늘 일부 네티즌이 Kimi를 사용하여 이력서를 생성했을 때 AI가 생성한 이력서가 매우 상세하고 구체적인 경험과 전화번호까지 포함되어 있다는 사실을 발견했습니다.

해당 네티즌은 사건을 마무리한 뒤 위챗에 계정 소유자를 추가해 물었다. 해당 계정 주인은 당일 이력서를 AI로 수정했는데, 이력서가 다른 네티즌의 화면으로 옮겨졌다고 한다.

따라서 AI 소재의 초상권 심사는 업계 전체가 직면한 새로운 과제이며, 현재로서는 신뢰할 수 있는 기술적 수단이 없는 상황이다.

말할 것도 없이 일반인의 권리보호 비용은 침해비용보다 훨씬 높으며, 개별 사건 처리는 결코 대량생산 속도를 따라잡을 수 없다.


AI의 합리적인 사용과 국경을 넘는 얼굴 도용 사이에는 경계가 있어야 합니다. 그리고 이 선이 그려지더라도 유지될 수 있어야 한다.이는 단순히 기술적인 문제가 아니라 인간의 문제이기 때문입니다.

이전 산업 시대에 작업자는 조립 라인의 부품이었으며 여전히 물리적으로 존재해야 했습니다. 이제 몸도 필요하지 않습니다. 당신에게 필요한 것은 더 순종적이고, 저렴하며, 결코 피곤하지 않은 당신을 만드는 데 필요한 데이터입니다.

이런 소외가 아니다일체 포함발명했지만 AI가 넣었다그것전례 없는 속도와 규모로 추진됩니다.

상상해 보세요. AI가 내 직업을 대체하고, 불안을 해소하기 위해 집에서 비디오만 볼 수 있습니다. 결과적으로, 영상 속 인물들의 얼굴은 저와 같은 평범한 사람들의 얼굴을 수집한 것이며, 심지어 비방과 낙인이 찍힐 수도 있습니다.

이것은 불편한 폐쇄 루프입니다.


나는 AI를 반대하지 않는다. 기술 자체에는 원죄가 없습니다.

그러나 사람에 대한 사회의 존중은 효율성이 사람과 충돌할 때 사람 자신을 위한 자리를 기꺼이 떠날 것인지 여부에 정확하게 반영됩니다.

이 자리는 비워둘 수 없다고 생각합니다.