미국 국회의원들은 AI가 생성한 테일러 스위프트의 노골적인 사진이 입소문을 낸 후 사람들이 자신의 가짜 포르노 이미지에 대해 고소할 수 있도록 제안하고 있습니다. 이미지의 명시적 위조 및 무동의 편집 파괴(DEFIANCE)법은 동의 없이 식별 가능한 개인의 사적인 부분을 묘사하는 "디지털 위조"에 대한 민사소송권을 창설하여 피해자가 이미지를 유포할 의도로 "고의로 생산 또는 소유"하는 사람에게 금전적 보상을 요구할 수 있도록 허용합니다.
이 법안은 Dick Durbin(일리노이주 상원의원), Lindsey Graham(사우스캐롤라이나주 상원의원), Amy Klobuchar(미네소타주 상원의원), Josh Hawley(미주리주 상원의원)가 공동 발의했습니다. 이 법안은 2022년 여성폭력방지법 재승인법(Violence Against Women Act Reauthorization Act)의 조항을 기반으로 하며, 이는 가공되지 않은 노골적인 이미지에 대해 유사한 소송 권리를 추가합니다. 간단히 말해서 후원자들은 이를 디지털 방식으로 조작된 노골적인 AI 이미지의 "기하급수적인" 증가에 대한 대응이라고 설명하고 Swift의 사례를 가짜 이미지가 "여성, 특히 공인, 정치인, 유명인을 착취하고 괴롭히는 데 사용되는 방법"의 예로 지적합니다.
종종 딥페이크라고 불리는 포르노 AI 조작 이미지는 2017년에 용어가 만들어진 이후 인기와 정교함이 커졌습니다. 기성 생성 AI 도구를 사용하면 괴롭힘과 강탈에 사용되는 노골적인 이미지나 명의 도용에 대한 보호 장치가 있는 시스템에서도 생산이 더 쉬워집니다.
그러나 아직까지 국내 곳곳에서는 명확한 법적 구제책이 없는 상황이다. 거의 모든 주에서 합의되지 않은, 시뮬레이션되지 않은 음란물을 금지하는 법안을 통과시켰지만 그 과정은 더디기만 합니다. 아날로그 이미지 생성에 관한 법률은 훨씬 적습니다. 그러나 이는 조 바이든 대통령의 AI 규제 안건의 일부이며 백악관 대변인 카린 장 피에르(Karine Jean-Pierre)는 지난 주 테일러 스위프트(Taylor Swift) 사건에 대응하여 의회에 새로운 법안을 통과시킬 것을 촉구하고 있습니다.
'DEFIANCE' 법안은 인공지능이 생성한 이미지를 위해 특별히 제안된 것이지만, 이러한 이미지에만 국한되지는 않습니다. 이 법안은 합리적인 사람이 보기에 "소프트웨어, 기계 학습, 인공 지능 또는 기타 컴퓨터 생성 또는 기술적 수단..."을 통해 개인의 실제 시각적 묘사와 구별할 수 없는 것으로 보이는 모든 친밀한 성적 이미지(기본 규칙에 정의된 용어)를 조작으로 간주합니다. 여기에는 성적 암시로 변경된 실제 이미지가 포함됩니다. 결과가 충분히 현실적이라면 이 문구는 Photoshop과 같은 오래된 도구에도 적용되는 것 같습니다. 이미지가 사실이 아니라는 라벨을 추가한다고 해서 귀하의 책임이 면제되는 것은 아닙니다.
국회의원들은 인공지능과 비동의 음란물을 겨냥한 다수의 법안을 발의했지만 대부분은 아직 통과되지 못했다. 이달 초 국회의원들은 기술을 사용하여 허가 없이 다른 사람을 사칭하는 것을 매우 광범위하게 금지하는 NoAIFRAUDAct 법을 도입했습니다. 그러나 일률적인 패러디 규칙은 예술적 표현에 큰 문제를 야기할 수 있습니다. 정치적 패러디, 재연 또는 창의적인 허구적 대우에 대해 유력 인사가 소송을 제기할 가능성이 있습니다.
DEFIANCE는 동일한 문제 중 일부를 제기할 수 있지만 훨씬 더 제한적입니다. 여전히 통과하기 위한 힘든 싸움에 직면해 있습니다.