더 많은 창작자가 예술적 표현을 위해 인공 지능을 사용함에 따라 콘텐츠 제작에 인공 지능을 포함시키는 투명성에 대한 요구가 더욱 광범위해지고 있습니다. 이 문제를 해결하기 위해 TikTok은 오늘 제작자가 AI 생성 콘텐츠에 주석을 달 수 있는 새로운 도구를 출시하고 AI 생성 콘텐츠에 자동으로 주석을 달 수 있는 다른 방법을 테스트하기 시작할 것이라고 발표했습니다.
회사 측은 AI 콘텐츠가 시청자에게 혼란을 주거나 오해를 불러일으킬 수 있기 때문에 AI 태그 도입이 필요하다고 판단했다고 밝혔다. 물론 TikTok은 합성 미디어에 대한 정책을 업데이트하여 시청자가 비디오의 내용을 명확히 하고 오해의 소지가 있는 정보의 확산을 방지할 수 있도록 사실적인 이미지, 오디오 또는 비디오(예: 딥 페이크)가 포함된 인공 지능 콘텐츠에 라벨을 지정하도록 요구했습니다. TikTok의 정책에 따라 실물과 유사한 인공 지능의 미공개 이미지를 삭제할 수 있습니다.
그러나 AI가 의도적으로 사용자를 오도하는 데 사용되는 극단적인 경우를 제외하고 일부 AI 생성 콘텐츠는 진짜인지 거짓인지 사이에서 흔들릴 수 있습니다. 이 회색 영역에서 최종 사용자는 일반적으로 자신이 보고 있는 콘텐츠가 과도하게 편집되었거나 인공 지능을 사용하여 생성되었는지 여부를 알 수 있도록 더 높은 투명성을 높이 평가할 것입니다.
TikTok은 이제 제작자가 합성 미디어에 대한 기존 정책을 더 쉽게 준수할 수 있을 뿐만 아니라 전적으로 AI를 사용하여 생성되었거나 AI에 의해 많이 편집된 다른 콘텐츠에 플래그를 지정할 수 있는 새로운 도구를 출시합니다. 크리에이터는 동영상을 업로드할 때 이 도구를 사용할 수 있으며 TikTok은 크리에이터가 이전 동영상으로 돌아가서 다시 태그를 지정하는 것을 원하지 않습니다.
제작자가 새 도구를 사용하면 TikTok은 제작자가 동영상을 AI 생성으로 표시했음을 알리는 메시지를 동영상 사용자 이름 아래에 표시합니다. 그러나 TikTok은 기존 합성 미디어 정책에 속하지 않는 인공 지능 콘텐츠에 라벨을 지정하지 않은 제작자에게 처벌을 가하지 않습니다.
또한 틱톡은 인공지능 콘텐츠를 자동으로 감지하고 라벨을 붙이는 방법도 개발 중이라고 밝혔습니다. 이번 주 TikTok은 AI를 사용하여 편집되거나 생성된 것으로 감지된 모든 콘텐츠에 최종적으로 적용되는 "AI 생성" 라벨 테스트를 시작할 예정입니다.
회사는 자사 기술이 가능한 AI 콘텐츠를 어떻게 찾는지에 대한 구체적인 세부 정보를 밝히기를 거부했으며, 이러한 세부 정보를 공유하면 악의적인 행위자가 탐지 기능을 우회할 수 있다는 점을 지적했습니다. 그러나 TikTok은 다양한 AI 감지 모델을 테스트할 것이며 콘텐츠 자체에 AI 태그를 삽입하여 플랫폼이 AI를 더 잘 감지하도록 돕는 것을 목표로 하는 출처 파트너십을 "평가"하고 있다고 밝혔습니다.
최근 몇 달 동안 OpenAI와 Google은 모두 자체 AI 감지 기능을 발표했으며 AI 라벨링은 대규모 플랫폼에서 일반적인 관행이 되고 있습니다. 인스타그램도 인공지능을 사용해 생성하거나 편집한 콘텐츠를 강조하는 기능을 개발 중인 것으로 보인다. 유럽연합(EU)은 허위정보에 맞서기 위한 일반적인 규칙으로 인공지능 콘텐츠에 라벨을 붙이는 플랫폼을 추진하고 있다.
투명성을 높이기 위해 TikTok은 이제 인공 지능을 사용하는 모든 특수 효과의 이름을 변경하여 이름에 "AI"를 명확하게 표시합니다. 이는 이전에 공개를 거부한 내용입니다. 실제로 틱톡의 '볼드글래머(BoldGlamor)' 필터가 사용자의 얼굴을 바꾸는 뛰어난 기술로 인기를 얻었을 때 일부 사람들은 필터가 AR(증강현실 기술)이 아닌 AI를 사용한 것이라고 의심했다. 그러나 틱톡은 당시 해당 제품이 인공지능인지 여부를 묻는 언론의 질의에 답변을 거부했다.
새로운 라벨 변경으로 사용자는 이제 어떤 TikTok 필터가 AI를 사용하는지 한눈에 확인할 수 있습니다. 회사는 업데이트된 Effect House 제작자에 대한 지침을 통해 동일한 작업을 수행하도록 요구할 것이라고 말했습니다.
TikTok은 새로운 AI 태그를 개발할 때 다양한 유형의 AI 태그에 대한 사용자 반응을 조사한 MIT의 David G. Rand 박사를 포함한 안전 자문위원회 및 업계 전문가와 협의했다고 언급했습니다. 이를 위해 TikTok은 '인공지능 세대'라는 용어가 다양한 그룹의 사람들에게 널리 이해될 수 있기를 바랍니다.
앞으로 몇 주 안에 TikTok은 사용자가 인공 지능을 더 잘 이해할 수 있도록 교육 비디오 및 기타 미디어 활용 능력 리소스도 출시할 예정입니다.
이러한 업데이트는 인공 지능의 투명성과 책임 있는 혁신을 위한 업계 모범 사례 코드인 합성 미디어에 대한 AI의 책임 있는 관행에 대한 파트너십에 가입하겠다는 2월 약속을 포함하여 미디어 인공 지능에 대한 TikTok의 다른 이니셔티브를 따릅니다. 올해 8월에는 비영리단체 디지털 모멘트(Digital Moment)와 파트너십을 맺고 젊은이들과 원탁회의를 열어 인공지능 온라인 개발에 대한 그들의 견해를 이해하기도 했다.
AI 태그는 오늘부터 출시되지만 출시가 완료될 때까지 바로 표시되지 않을 수도 있습니다.