이번 주, 세계적으로 유명한 팝스타는 AI가 생성한 테일러 스위프트(Taylor Swift)의 이미지가 소셜 미디어 플랫폼에서 수천만 번 공유된 후 딥페이크 포르노의 가장 최근 희생자가 되었습니다. 그 결과 '심각한 위조'가 다시 국회의원들의 관심을 끌었고, 미국 의회는 물론 백악관까지 이 문제에 대한 의견을 표명했다.
34세 여성 가수 테일러 스위프트(Taylor Swift)의 노골적인 이미지가 채널에 공유되었습니다. 그러나 해당 이미지는 계속 입소문을 타고 4천만 회 이상 조회된 것으로 알려지면서 확산을 막지는 못했습니다.
이 사건에 대응하여 X는 이미지 확산을 억제하기 위해 해당 이미지를 적극적으로 삭제하고 플랫폼에서 TaylorSwift 검색을 금지했습니다. 회사 측은 성명을 통해 “추가 위반 사항이 즉시 처리되고 문제의 콘텐츠가 삭제되도록 상황을 면밀히 모니터링하고 있다”고 밝혔다.
그러나 플랫폼에서의 절제만으로는 충분하지 않을 수 있습니다. 이제 의회 의원들과 심지어 백악관까지 이 문제에 무게를 두고 있습니다. 미국 하원의원인 조 모렐(Joe Morelle)은 AI가 제작한 이미지가 돌이킬 수 없는 정서적, 재정적, 평판에 해를 끼칠 수 있으며 불행하게도 여성이 불균형적으로 영향을 받는다고 말했습니다.
민주당 하원의원 이베트 클라크(Yvette Clark)는 "테일러 스위프트의 경험은 새로운 것이 아니다. 수년 동안 여성들은 동의 없이 딥페이크의 표적이 되어왔다. 인공지능이 발전함에 따라 딥페이크 뉴스를 만드는 것이 더 쉽고 저렴해졌다"고 말했다.
Taylor Swift의 경험은 새로운 것이 아닙니다. 여성들은 동의 없이 수년간 딥페이크의 표적이 되었습니다. 인공지능의 발달로 딥 페이크 뉴스를 만드는 것이 더 쉽고 저렴해졌습니다.
이는 양 당사자는 물론 심지어 Swifties도 함께 해결할 수 있어야 하는 문제입니다.
— 이베트 D. 클라크(@RepYvetteClarke) 2024년 1월 25일
Clark 의원이 말했듯이 이것은 새로운 문제가 아닙니다. 그러나 이렇게 세간의 이목을 끄는 목표로 인해 이 문제는 공개 토론의 초점이 되었으며 이제 향후 입법의 대상이 될 수도 있습니다.
카린 장 피에르 백악관 대변인은 이날 성명을 통해 "소셜미디어 기업들이 콘텐츠 조정에 관해 자체적으로 독립적인 결정을 내리지만, 잘못된 정보와 합의되지 않은 실제 사람들의 친밀한 이미지 확산을 방지하기 위해 자체 규칙을 시행하는 데 중요한 역할을 한다고 믿는다"고 밝혔다.
영국에서는 2023년 10월 사이버 보안법에 따라 노골적인 딥페이크가 불법이 됩니다. 주요 온라인 성인 미디어 제공업체인 PornHub는 2018년부터 자사 플랫폼에서 AI가 생성한 가짜 뉴스 게시를 금지했습니다.
스위프트 씨는 아직 이 사건에 대해 공개적으로 논평하지 않았다.
이 최근의 세간의 이목을 끄는 사건이 입법 개혁으로 이어지든 아니든, AI 콘텐츠는 이미 국회의원들에게 문제를 일으키고 있는 것이 분명합니다. 바로 이번 주에 우리는 인공 지능 생성 정보가 유권자 투표율을 억제하는 데 사용되는 첫 번째 사건에 대해 보고했습니다. 가짜 대통령 바이든이 뉴햄프셔 주민들에게 전화를 걸어 투표하지 말라고 촉구한 것입니다.