YouTube는 AI가 생성한 동영상에 대한 식별 및 관리를 강화하고 있으며 더 이상 창작자의 자발적 공개에만 의존하지 않습니다. 회사는 최근 내부 시스템이 5월부터 '중요한 몰입형 AI' 기술을 사용해 장편 영상과 단편 영상을 포함한 영상을 자동으로 감지해 라벨을 붙이고, 관련 태그의 위치와 부각도 동시에 향상할 것이라고 밝혔다.

유튜브가 공개한 정보에 따르면 플랫폼은 2년 넘게 AI 콘텐츠 라벨을 사용해 왔다. 이전에는 주로 크리에이터가 크리에이터 스튜디오의 도구를 통해 선언해야 했습니다. 동영상에 실제 인물, 실제 장소, 실제 사건으로 오해할 수 있는 AI 콘텐츠가 포함된 경우 이를 공개해야 합니다. 반면 명백히 판타지, 만화이거나 비현실적으로 혼란스러운 콘텐츠(예: 허구의 세계에서 달리는 유니콘)는 라벨링에서 제외됩니다. 유튜브는 현재 AI 라벨링 정책 자체는 변하지 않았지만, 플랫폼은 '창작자 자진신고 의무'에서 '플랫폼 능동식별+창작자 협력'이라는 보다 적극적인 거버넌스 모델로 전환할 것이라고 밝혔습니다.

이러한 움직임은 Google이 I/O 개발자 컨퍼런스에서 Gemini Omni 다중 모드 모델을 출시한 이후에 나온 것입니다. Gemini Omni는 물리학, 문화, 역사, 과학 등 복잡한 배경을 이해하는 고품질 영상을 생성할 수 있어 몰입형 AI 영상의 확산에 대한 우려가 커지고 있습니다. 유튜브는 새로운 내부 신호를 사용해 AI 생성 콘텐츠를 식별하고 자동으로 라벨을 붙일 것이라고 밝혔다. 작성자가 이를 잊어버리거나 공개를 거부하는 경우에도 시스템이 작성자를 대신하여 라벨을 지정합니다.

라벨링 수정과 관련하여 창작자가 자신의 콘텐츠가 AI 영상으로 오인되었다고 판단하는 경우 영상의 공개 상태를 업데이트할 수 있습니다. 다만, 유튜브 자체 AI 도구(Veo, Dream Screen 등)로 콘텐츠를 제작한 경우, 창작자는 플랫폼에서 추가한 AI 라벨을 삭제할 권리가 없습니다. 또한 비디오에 C2PA 메타데이터가 포함되어 있고 완전히 AI로 생성된 것으로 나타나면 관련 태그가 비디오에 영구적으로 첨부됩니다. 현재 OpenAI는 C2PA 표준에 대한 지원을 발표했으며, NVIDIA, Kakao, Eleven Labs 등의 조직도 AI 콘텐츠의 추적성을 촉진하기 위해 이 캠프에 합류했습니다.

자동 감지 및 주석 기능을 출시하기 전에 YouTube는 AI 딥페이크 감지 도구의 범위를 확장했습니다. 원래 유명 인사, 공인, 정치인 및 일부 제작자에게만 테스트할 수 있었던 플랫폼의 얼굴 매칭 스캔 도구를 이제 모든 성인이 YouTube의 이미지가 인공적으로 합성되었거나 AI에 의해 사칭되었는지 여부를 스캔하는 데 사용할 수 있습니다. 유튜브는 이를 바탕으로 AI 콘텐츠 자동 라벨링의 범위와 강도를 동시에 확대해야 한다고 본다.

또한 YouTube에서는 라벨 위치를 조정하여 라벨이 더욱 눈에 띄고 일관되게 보이도록 할 것입니다. 이전에는 AI 라벨이 일반적으로 확장된 설명 열에 숨겨져 있었고, 건강, 뉴스 등 민감한 문제가 관련된 동영상의 경우에만 동영상 화면 상단에 눈에 띄게 표시되었습니다. 수정 후 긴 동영상의 경우 AI 태그가 플레이어 바로 아래와 동영상 설명 텍스트 위에 고정적으로 표시됩니다. Shorts 동영상의 경우 동영상에 직접 겹쳐집니다. 플랫폼은 이번 디자인이 AI에 의해 수정되거나 AI에 의해 생성된 몰입형 콘텐츠를 사용자가 한눈에 확인할 수 있도록 하기 위한 것이라고 밝혔습니다.

약간만 AI가 수정되었거나, 애니메이션이 있거나, 분명히 비현실적인 동영상(예: 앞서 언급한 판타지 유니콘 장면)의 경우 YouTube는 시청 경험에 불필요한 방해를 피하기 위해 플레이어 아래에 라벨을 붙이거나 오버레이하는 대신 확장 설명에 라벨을 배치합니다. AI 태그 자체가 영상 추천 알고리즘에 영향을 주지도, 수익화 능력을 약화시키지도 않는다는 점을 유튜브가 강조하고 있다는 점은 주목할 만하다. 즉, AI 콘텐츠로 표시된 작품은 여전히 ​​정상적으로 유통 및 광고 수익에 참여할 수 있다.

유튜브는 AI 콘텐츠 관리를 강화하는 동시에 제품 혁신과 기능 업그레이드에도 AI 기술을 지속적으로 활용하고 있다. 이 플랫폼은 이전에 대화형 검색 기능인 'YouTube에 물어보세요', YouTube Music 구독자를 위한 AI 재생목록 생성기, AI 자동 동영상 요약, Shorts 및 크리에이터를 위한 일련의 생성적 창작 도구 및 AI 음악 생성 도구 등 다양한 AI 기능을 테스트하고 출시한 바 있습니다. YouTube의 경우 AI를 사용하여 제품 개발을 촉진하는 것과 AI 남용 위험을 방지하는 것 사이에서 균형을 유지하는 방법이 향후 전략의 핵심 문제 중 하나가 되고 있습니다.