기관 경고: AI가 생성한 아동 성 학대 이미지가 '인터넷에 넘쳐날 위험'

인공지능이 생성한 아동 성학대 이미지가 '최악의 악몽'이 되어 인터넷을 압도할 위협이 되고 있다고 보안 감시원이 경고했습니다. 인터넷 감시 재단(IWF)은 영국 법률을 명백히 위반한 AI 생성 학대 이미지 약 3,000개를 발견했다고 밝혔습니다.

영국에 본사를 둔 이 조직은 학대 피해자의 기존 실제 이미지가 AI 모델에 입력되어 새로운 묘사를 생성한다고 말했습니다.

그룹은 이 기술이 '노화'된 유명인의 이미지를 생성하고 성적 학대 장면에서 어린이로 묘사되는 데에도 사용되었다고 덧붙였습니다. 아동 성적 학대 자료(CSAM)의 다른 예로는 인공 지능 도구를 사용하여 온라인에서 발견된 옷을 입은 어린이의 이미지를 "나체"하는 것이 있습니다.

국제여성포럼(International Women's Forum)은 올 여름 AI로 인한 학대의 증거가 나타나기 시작했다고 경고했지만, 최근 보고서에서는 이 기술의 사용이 가속화되고 있는 것으로 나타났습니다. IWF의 수지 하그리브스 최고경영자(CEO)는 감시단의 "최악의 악몽이 현실이 됐다"고 말했다.

"올해 초 우리는 AI 이미지가 곧 어린이가 성적으로 학대당하는 실제 사진과 구별되지 않을 수 있으며, 그러한 이미지가 더 많이 확산되는 것을 볼 수 있을 것이라고 경고했습니다."라고 그녀는 말했습니다. "이제 우리는 그 단계를 지났습니다. 소름끼치게도 범죄자들이 실제 학대를 당한 피해자의 이미지를 바탕으로 고의적으로 AI를 훈련시키는 모습을 목격하고 있습니다. 과거에 강간당한 어린이들은 이제 어딘가에서 누군가가 그것을 보고 싶어하기 때문에 새로운 시나리오에 포함됩니다."

국제여성포럼은 AI가 생성한 이미지가 온라인에서 판매되고 있다는 증거도 목격했다고 밝혔다. 최신 조사 결과는 다크 웹 아동 학대 포럼에 대한 한 달 간의 조사를 기반으로 합니다. 포럼에서 11,108개의 이미지를 조사했으며 그 중 2,978개는 아동 성적 학대를 묘사하여 영국 법을 위반했습니다.

AI로 생성된 CSAM은 아동의 "음란한 사진 또는 의사 사진"을 촬영, 배포 및 소지하는 것을 범죄로 규정하는 아동 보호법 1978에 따라 불법입니다. 국제여성포럼은 발견된 불법 자료의 대부분이 아동 보호법을 위반했으며, 이미지의 5분의 1 이상이 강간과 성적 학대를 묘사할 수 있는 가장 심각한 콘텐츠 카테고리인 카테고리 A로 분류됐다고 밝혔습니다.

2009년 검시관 및 정의법(Coroners and Justice Act 2009)은 또한 캐리커처나 그림과 같이 사진이 아닌 금지된 어린이 이미지를 범죄로 규정합니다. IWF는 AI로 생성된 CSAM의 물결로 인해 법 집행 기관이 실제 학대를 탐지하고 피해자를 돕는 데 방해가 될 것을 우려하고 있습니다.

Hargreaves는 “우리가 이 위협을 통제하지 못한다면 이 자료는 인터넷을 압도할 가능성이 있습니다.”라고 말했습니다.

IWF의 최고 기술 책임자인 Dan Sexton은 CSAM 생성에 도움이 되도록 조정할 수 있는 공개 AI 모델인 이미지 생성 도구인 StableDiffusion이 포럼에서 논의된 유일한 AI 제품이었다고 말했습니다.

"우리는 공개적으로 사용 가능한 소프트웨어인 StableDiffusion을 사용하여 콘텐츠를 만드는 것에 대한 논의를 보고 있습니다."

StableDiffusion을 개발한 영국 회사인 StabilityAI는 "불법적이거나 비윤리적인 목적으로 우리 플랫폼을 오용하는 것을 금지하며, 우리 정책에는 여기에 CSAM이 포함된다는 점을 분명히 명시하고 있습니다."라고 밝혔습니다.

정부는 법으로 제정될 사이버 보안 법안이 AI로 생성된 CSAM을 다루며 소셜 미디어 회사가 자사 플랫폼에 해당 내용이 표시되는 것을 방지하도록 요구할 것이라고 밝혔습니다.