인공지능으로 생성된 이미지와 아동 성적 학대(CSA)를 묘사하는 기타 형태의 딥페이크는 유럽연합에서 범죄로 규정될 수 있다고 유럽연합 집행위원회가 오늘 발표했습니다. 이는 기술 발전에 보조를 맞추기 위해 기존 법안을 업데이트할 계획입니다. EU는 또한 아동 성적 학대의 실시간 스트리밍을 새로운 형사 범죄로 만들 것을 제안했습니다. 이 계획에 따르면 "소아성애 매뉴얼"의 소지 및 교환도 범죄로 간주됩니다. EU는 이 계획이 온라인 위험에 대한 인식 제고, 피해자의 범죄 신고 및 지원(금전적 보상에 대한 권리 부여 포함)을 더 쉽게 만드는 등 아동 성적 학대 예방을 강화하기 위한 광범위한 조치의 일부라고 밝혔습니다.
이 분야의 현재 EU 규정은 2011년부터 시작되며, 이를 업데이트하기 위한 제안에는 위반 사항에 대한 의무 보고에 대한 변경 사항도 포함되어 있습니다.
2022년 5월, 위원회는 디지털 서비스가 플랫폼에서 유포되는 기존 또는 새로운 아동 성적 학대 자료(CSAM)를 탐지 및 보고하고 아동 그루밍을 식별 및 보고하기 위해 자동화된 기술을 사용해야 하는 프레임워크를 구축하기 위한 별도의 CSA 관련 법안 초안을 마련했습니다.
CSAM 스캔 계획은 매우 논란의 여지가 많은 것으로 입증되었습니다. 이는 의회와 EU 이사회의 의원들을 계속 분열시키는 동시에 유럽 위원회와 아동 안전 기술 로비스트 간의 관계에 대한 의혹을 제기하고 제안을 홍보하는 데 사용된 법적으로 의심스러운 마이크로 타겟 광고 캠페인과 같은 EU 집행부에 다른 당혹스러운 질문을 제기합니다.
CSA를 해결하기 위해 디지털 정보 플랫폼을 우선시하기로 한 유럽 위원회의 결정은 EU 국회의원들이 이 복잡한 사회 문제를 다룰 때 잘못된 영역에 초점을 맞추고 있다는 비판을 촉발시켰으며, 이로 인해 위원회가 후속 권장 사항을 제시해야 한다는 압력이 생겼을 수 있습니다. (물론 유럽연합 집행위원회는 오늘의 패키지를 이전 CSAM 스캔 제안에 대한 "보완"이라고 부르며 그렇게 말하지 않았습니다.)
그럼에도 불구하고 논란의 여지가 있는 개인 정보 스캐닝 프로그램이 제안된 지 2년이 채 안 됐음에도 딥페이크와 AI 생성 이미지의 위험성에 대한 우려가 크게 커졌습니다. 여기에는 기술이 CSAM을 생성하는 데 오용될 수 있다는 우려와 그러한 합성 콘텐츠로 인해 법 집행 기관이 실제 피해자를 식별하는 것이 더욱 어려워질 수 있다는 우려가 포함됩니다. 따라서 AI 생성 기술의 바이러스 붐은 국회의원들이 규칙을 재검토하도록 유도하고 있습니다.
위원회는 오늘 보도자료를 통해 “온라인상의 어린이 수의 증가와 기술의 발전으로 인해 학대의 새로운 가능성이 생겼다”고 밝혔다. 위원회는 또한 이 제안이 "온라인에서 아동의 성적 학대와 착취에 만연한 불처벌을 줄이는 것"을 목표로 한다고 밝혔습니다.
위원회는 제안서를 제출하기 전에 영향 평가를 실시했으며 온라인 어린이 수의 증가와 "최신 기술 개발"이 CSA가 발생할 수 있는 새로운 기회를 창출했다고 결론지었습니다. 위원회는 또한 회원국의 법적 틀의 차이로 인해 학대 방지 조치가 방해받을 수 있다는 점을 우려하고 CSA를 예방하고 피해자를 지원하기 위한 현재의 "제한된" 노력을 개선하기를 원한다고 밝혔습니다.
Ylva Johansson 내무부 커미셔너는 지지 성명에서 다음과 같이 덧붙였습니다. "빠르게 진화하는 기술은 온라인 아동 성적 학대에 대한 새로운 가능성을 창출하고 이 매우 심각하고 널리 퍼진 범죄를 수사하는 법 집행 기관에 어려움을 야기하고 있습니다. 강력한 형법은 필수적이며 오늘날 우리는 어린이를 구하고 가해자를 처벌하기 위한 효과적인 법적 도구를 확보하기 위한 중요한 조치를 취하고 있습니다. 우리는 2020년 7월에 발표된 아동 성 학대를 더욱 효과적으로 퇴치하기 위한 EU 전략에서 약속한 바를 이행하고 있습니다."
어린이의 온라인 안전 위험과 관련하여 위원회의 제안은 회원국들이 "인식 제고"에 더 많은 투자를 하도록 장려하는 것을 목표로 합니다.
CSAM 스캔 프로그램과 마찬가지로 EU 의회 및 이사회의 공동 입법자들이 제안의 최종 형태를 결정하게 됩니다. 오늘의 CSA 단속 제안은 정보 스캐닝 계획보다 덜 분열적일 가능성이 높지만 의회 선거와 올해 말 위원 위원회 재개를 앞두고 협상할 시간은 제한되어 있습니다. 따라서 이 계획은 통과되고 다른 계획은 지연될 가능성이 있습니다.
유럽연합 집행위원회에 따르면, CSA에 맞서기 위해 현재 지침을 수정하는 방법에 대한 합의가 이루어지면 해당 지침은 유럽 연합 공식 저널에 게시된 지 20일 후에 발효됩니다.