성적인 이미지 및 기타 합의되지 않은 은밀한 이미지의 딥페이크를 표적으로 삼는 새로운 미국 법률인 "Take It Down Act"는 2026년 5월 19일에 공식적으로 발효되었으며, 인터넷 플랫폼은 통지를 받은 후 48시간 이내에 관련 콘텐츠를 삭제해야 하며, 그렇지 않으면 무거운 벌금을 물게 됩니다. 지난해 도널드 트럼프 대통령이 서명한 이 법은 실제 또는 AI가 생성한 비동의 은밀한 이미지를 유포하는 것을 즉시 연방 범죄로 규정했지만 실제로 논란을 촉발한 것은 '고지 및 게시 중단' 조항으로, 이는 잠재적으로 피해자를 실제로 돕기 어렵게 만들고 잠재적으로 정부 검열의 도구를 제공한다는 비판을 받았습니다.
미국 연방거래위원회(FTC)는 Amazon, Alphabet, Apple, Meta, Microsoft, TikTok, Snap 등을 포함한 12개 이상의 대규모 기술 회사에 서신을 보내 불만 사항을 접수할 수 있는 편리한 포털을 제공하고 불만 사항이 접수된 콘텐츠와 모든 "알려진 동일한 사본"을 48시간 이내에 삭제해야 함을 상기시켰습니다. 그렇지 않으면 위반할 때마다 $53,000 이상의 민사 처벌을 받을 수 있습니다. 많은 플랫폼에서는 이 법안에 대한 지지를 공개적으로 표명했으며 자동화된 탐지 및 보고 메커니즘이 마련되어 있음을 강조했습니다. 일부는 아동 성 착취 반대 단체와의 협력과 기존 '사적 이미지 제거' 사업도 강조했다.
그러나 노골적인 성폭력 문제에 대해 오랫동안 연구해 온 전문가, 권리 단체, 디지털 권리 단체들은 이 법안에 대해 강한 의구심을 갖고 있습니다. 일부 학자들은 트럼프 대통령이 연두교서에서 이 법을 자신을 위해 '사용'하고 싶다고 공개적으로 밝힌 점을 지적했는데, 이는 최고 권력층이 이 법을 피해자 중심의 제도적 장치라기보다 정치적 적들과 싸울 수 있는 잠재적인 도구로 간주했다는 의미로 해석됐다. 성폭력 반대 운동가인 메리 앤 프랭크스(Mary Anne Franks)와 다른 사람들은 이 법이 위키피디아와 같이 정부의 입장에 어긋나는 플랫폼에 더 많은 압력을 가하고 "우호적인 플랫폼"은 그대로 두어 법 집행을 왜곡할 수 있다고 우려합니다.
EFF(Electronic Frontier Foundation), Cato Institute 및 Public Knowledge와 같은 디지털 권리 단체는 강제적이고 신속한 제거 메커니즘이 종종 플랫폼이 위험을 피하기 위해 "삭제를 덜 하기보다는 더 많이 삭제"하도록 유도하고 체계적인 "과도한 검열"을 촉발함으로써 LGBTQ+ 커뮤니티의 성별 및 성적 취향 관련 콘텐츠는 물론 성교육 및 성 정체성에 관한 교육 자료를 포함한 합법적인 표현에 해를 끼친다고 경고했습니다. 현재 미국의 트랜스젠더 청소년을 위한 성전환 의료를 둘러싼 정치적 분위기에서 일부 단체에서는 이 법이 관련 정보를 더욱 억압하는 핑계로 사용될 것이라고 우려하고 있습니다. 법원에서 최종 기각되더라도 '냉각 효과'는 이미 형성됐다.
동시에 법의 적용 범위에는 회색 영역도 있습니다. 예를 들어, 법무부와 통합된 AI 챗봇 그록(Grok)은 AI 포르노 합성물을 제작하고 피해자를 괴롭힌 혐의로 법 시행 첫해에 오하이오주 남성에 대한 단 한 건의 사건에서만 법의 형법 조항이 발동된 사실을 밝혀, 실제로 피해자를 보호하는 데 있어 법의 제한된 효율성에 대한 의문을 제기했습니다.
지지자들의 입장에서 보면 '게시중단법'은 오랫동안 명확한 연방정부의 틀이 결여된 노골적인 성폭력 문제에 필요한 범죄 도구와 통일된 기준을 제공하고, 리벤지 포르노와 성적 딥페이크의 확산을 위한 공간을 압축할 것으로 예상됩니다. 그러나 비판가들은 현재 고도로 정치화된 환경에서 행정 기관에 강력한 재량권을 부여하고 플랫폼에 신속하게 콘텐츠를 삭제하도록 요구하는 이러한 법률이 실제로는 쉽게 원래 의도에서 벗어날 수 있다고 믿습니다. 이는 피해자에게 진정으로 이익이 되지 않을 수도 있고, 세계 최대의 소셜 미디어 플랫폼에서 새로운 선택적 검열과 침묵을 낳을 수도 있습니다.