Meta는 전 세계 선거가 함께 진행됨에 따라 앞으로 몇 달 안에 Facebook, Instagram 및 Threads에 업로드되는 AI 생성 사진에 주석을 달기 시작할 것입니다. 실제 영상이나 음성이 인공지능에 의해 제작되었는지 여부를 밝히지 않는 사용자에 대해서도 처벌을 시작한다.
Meta의 글로벌 담당 사장인 Nick Clegg는 인터뷰에서 인공 지능으로 생성된 미디어가 진실과 거짓을 구별하기가 점점 더 어려워짐에 따라 이러한 조치는 기술 산업에 "인센티브"를 부여하기 위한 것이라고 말했습니다. 백악관은 기업들이 AI 생성 콘텐츠에 워터마크를 표시하도록 강력히 추진해 왔습니다. 한편 Clegg는 Meta가 합성 미디어 생성 시 인공 지능의 역할을 모호하게 하기 위해 메타데이터가 조작된 경우에도 합성 미디어를 탐지할 수 있는 도구를 개발하고 있다고 말했습니다.
Meta는 이미 자체 ImagineAI 생성기를 사용하여 생성된 이미지에 "Imagined with AI" 워터마크를 적용했으며 Google, OpenAI, Microsoft, Adobe, Midjourney 및 Shutterstock의 도구를 사용하여 생성된 AI 사진에 동일한 워터마크를 적용하기 시작할 예정입니다. Clegg는 AI 생성 비디오 및 오디오를 식별하기 위한 표준을 확립하는 데 있어 업계가 다른 업계보다 훨씬 뒤처져 있다고 말했습니다. Meta는 이러한 유형의 미디어가 어떻게 사기에 사용될 수 있는지에 대해 매우 경계하고 있지만 회사 자체적으로 모든 것을 포착할 수는 없습니다.
그는 "우리는 비디오, 오디오 콘텐츠가 선거로 이어지는 중요한 정치적 문제에 대해 대중을 속이기 위해 고안된 것이라고 우려하는 사람들을 매우 경계할 것입니다. 아무리 빨리 발견되거나 라벨이 지정되더라도 우리가 여전히 체인에서 벗어난다는 설명할 수 없는 비난을 받을 가능성이 있다고 생각합니까? 예, 가능성은 높지 않더라도 가능하다고 생각합니다."라고 말했습니다.
Meta는 기존 콘텐츠 진위 프로그램을 기반으로 인공지능 파트너십(Partnership for Artificial Intelligence)과 같은 조직과 협력해 왔습니다. Adobe는 최근 콘텐츠 출처 정보를 이미지 메타데이터에 통합하는 콘텐츠 자격 증명 시스템을 출시했습니다. 이미지용 SynthID 워터마킹 베타 버전을 출시한 후 Google은 이를 오디오 파일로 확장했습니다.
Clegg는 Meta가 곧 사용자에게 인공 지능을 사용하여 제작된 사실적인 비디오 또는 오디오가 포함된 게시물을 공개하도록 요청할 것이라고 말했습니다. 이용자들이 이를 공개하지 않을 경우 “경고부터 불쾌한 게시물 삭제까지 다양한 처벌을 받게 될 것”이라고 그는 말했다.
AI가 생성한 정치인의 바이러스 게시물 사례는 이미 많이 있지만 Clegg는 선거 연도에 이러한 현상이 Meta의 플랫폼을 장악할 가능성을 과소평가했습니다. 그는 “완전히 합성되고 정치적으로 중요한 비디오나 오디오를 조만간 보게 될 것이라고는 생각하지 않는다”고 말했다. "나는 그것이 그렇게 될 것이라고 생각하지 않습니다."
또한 Meta는 커뮤니티 표준에 맞게 훈련된 대규모 언어 모델(LLM)의 사용을 내부적으로 테스트하기 시작했으며 이를 통해 수만 명의 리뷰어에게 효율적인 '분류 메커니즘'을 제공한다고 설명했습니다. 그는 "이것은 인간 검토자에게 보고되는 콘텐츠가 실제로 인간의 판단이 필요한 일종의 극단적인 경우인지 확인하는 매우 효과적이고 상당히 정확한 방법인 것 같습니다"라고 말했습니다.