'AI 합성' 기술은 이제 우리의 온라인 생활에도 침투했다. 기술은 본질적으로 무해하지만, 은밀한 동기를 가진 일부 사람들의 손에 의해 새로운 유형의 범죄에 공범이 되었습니다. 올해 3월 네티즌들의 관심을 끌었던 한 뉴스가 있었습니다. 여대생의 일상 사진이 실제로 'AI 원클릭 옷벗기' 기술을 이용해 악랄한 사이트에 게재됐다.

평범한 일상 사진이 음란사진으로 변하다

나쁜 웹사이트 게시

파티:한 네티즌은 내 사진이 포르노 사이트에 게재됐는데, AI가 단 한 번의 클릭으로 내 옷을 벗겨냈고, 그것이 나체 사진으로 밝혀졌다고 말했다. 매우 역겹다, 매우 역겹다!

기술교류를 가장하여 비용을 지불하고 그룹에 가입하고 튜토리얼을 받습니다.

클릭 한 번으로 일상 사진이 벗겨졌습니다. 이 사건은 피해자를 큰 패닉에 빠뜨렸을 뿐만 아니라 수많은 네티즌들을 겁에 질리게 만들었습니다. 이 "AI 제거" 소프트웨어는 어디에서 왔습니까?


기자는 일부 소셜 플랫폼에서 '원클릭 옷벗기'를 검색해 보았고 상세한 그래픽이나 비디오 튜토리얼을 많이 발견했습니다. "원클릭 옷 입기 및 벗기", "아름다운 여성복을 빨리 벗기는 방법" 등과 같은 제목이 매우 유혹적입니다. 이 게시물의 댓글 영역에는 많은 네티즌들이 자원을 구하는 메시지를 남겼고 일부 블로거는 직접 공유, 그룹 초대 등을 통해 이러한 유형의 기술을 전파했습니다.


'AI 페인팅'과 '기술 교류 및 학습'을 미끼로 해외 웹사이트에 그룹을 만들어 그룹 가입 비용을 지불하고 '학생'을 모집하는 범죄자도 있습니다. 네티즌들이 그룹에 가입하기 위해 비용을 지불하면 '원클릭 옷 벗기'에 대한 자세한 단계별 튜토리얼을 받을 수 있습니다. 최근 베이징 하이뎬구 인민검찰원이 이런 사례를 공개했다.


베이징 하이뎬구 인민검찰원 검사 리 타오(Li Tao)는 다음과 같이 소개했다.첫 번째 그룹에는 당시 이미 27,000명이 있었고, 소위 프리미엄 멤버십 그룹에는 수천 명이 있었습니다.판매되는 소프트웨어 도구 가격도 2023년 60위안 이상에서 2025년 168위안으로 급등했다.

검찰에 따르면 피의자들은 여러 그룹을 만들어 'AI 원클릭 옷벗기' 소프트웨어와 지원 튜토리얼을 그룹별로 판매해 불법적인 이익을 얻었다. 타인의 편의를 위해,또한 작업을 완벽하게 만드는 것과 동일한 교육 예제와 프롬프트 단어 문서도 함께 제공됩니다.사용자는 다운로드 후 추가로 학습할 필요가 없습니다. 소프트웨어를 열고 직접 작동할 수 있으므로 사용 임계값이 낮아집니다.

가격은 168위안이며 수천 명의 그룹 회원이 구매했습니다.


168위안이면 소위 'AI 옷벗기' 소프트웨어를 구입해 작동 방법을 배울 수 있다. 검찰은 증거를 종합한 결과 피의자 집단 중 다음과 같은 사실을 발견했다.수천 명의 그룹 회원이 구매 비용을 지불했습니다.. 소프트웨어를 사용한 후에는 그룹 내에서 자신의 경험을 전달하고 공유하게 됩니다.

2025년 6월, 경찰은 장 씨를 표적으로 삼아 체포했다. 조사 후,2023년 8월부터, 피고인 장(張)은해외 소셜 플랫폼인터넷에서 그룹을 설정 및 관리하고 그룹 내 AI 스트리핑 소프트웨어 및 튜토리얼 판매 관련 정보를 게시하여 10만 위안 이상의 이익을 얻습니다.

소프트웨어 개발자는 어떤 범죄를 저지르나요?

어떤 처벌을 받게 되나요?

수천 명의 사람들이 그러한 AI 스트리핑 소프트웨어와 튜토리얼을 구입했습니다. 결과는 어떻게 될까요? Zhang은 이 기술을 어떻게 개발했습니까? 그러한 행동에 대해 그는 어떤 처벌을 받게 될까요?

사실 Zhang은 이 소프트웨어의 최초 개발자가 아닙니다. 그가 한 일은,기성 AI 소프트웨어를 활용해 특정 키워드를 통해 모델 훈련을 진행하고, 형성된 AI 탈의 모듈을 패키징해 판매한다.


베이징 하이뎬구 인민검찰원 검사 리 타오(Li Tao)는 다음과 같이 말했습니다.당시 해외 기업은 오픈소스로 누구나 사용하고 호출할 수 있는 그림 생성 인공지능 AI를 출시했다. 입력된 프롬프트 단어를 기반으로 그림을 생성하거나, 사진을 업로드한 후 프롬프트 단어를 기반으로 그림을 수정할 수 있습니다. 피고인 Zhang은 이러한 기능이 실제로 음란물 이미지를 생성하는 데 사용될 수 있음을 발견했습니다.

그렇다면 'AI 옷벗기'는 어떤 기술일까?

검찰이 소개했다.소위 스트리퍼 도구는 실제로 옷을 벗는 것이 아니라 단조하고 다시 칠하는 기술입니다.실제로 알고리즘은 캐릭터의 특정 부분의 데이터를 재생성 및 묘사하고 매개 변수를 조정하여 다양한 효과를 가진 누드 이미지를 생성합니다. 따라서 이러한 사진은 실제로 가짜 사진입니다.


이 원클릭 옷 벗기 도구를 사용하면 누드 사진을 생성하는 과정도 매우 빠릅니다.대량의 포르노 이미지를 일괄 생성하는 데는 몇 초에서 몇 분밖에 걸리지 않습니다.그리고 그러한 편리함은 하류의 블랙 산업 체인을 탄생시켰습니다. 누군가 AI 탈의 도구를 구입한 후 원클릭 탈의 주문을 받고, 개당 몇 달러에 처리해 수익을 내기 시작했다.

광고 게시

옷을 벗은 사진 한 장에 1.5위안

2024년 6월 '법치온라인'에서도 비슷한 사례가 보도됐다. 베이징의 한 인터넷 회사의 기술자인 Bai Moumou는 심층 제조 기술인 AI 소프트웨어를 사용하여 다른 사람이 제공한 얼굴 정보가 포함된 특정 대다수 여성의 누드 사진을 만들어 이익을 위해 판매했습니다.

베이징 하이뎬구 인민검찰원 궈수정(Guo Shuzheng) 검사는 다음과 같이 말했습니다.그는 관련 사람들의 요구를 신속하게 충족시키는 사진을 1.5 위안에 판매합니다. 이때 해외 SNS에서는 바이의 게시물을 찾아보는 이들이 많다. 통계에 따르면 그의 광고를 본 사람은 약 3만 명에 이른다. 그는 QQ에서 관련 사진을 351명에게 판매했으며, 사진 수는 거의 7,000장에 이릅니다.

옷을 입지 않은 수천 장의 사진을 제작하고 거의 RMB 10,000를 벌었습니다.

불과 몇 달 만에 Bai Moumou는 옷을 벗는 사람들의 사진 수천 장을 제작하여 거의 10,000위안을 벌었습니다.


베이징 하이뎬구 인민검찰원 궈수정(Guo Shuzheng) 검사는 다음과 같이 말했습니다.Bai Moumou가 학생, 교사, 여성 동료를 상대하도록 요청받은 사진이 있습니다. 조사에 따르면, 이 과정에서 Bai Moumou는 실제로 누군가가 이러한 사진을 사용하여 강탈과 같은 불법 및 범죄 행위를 저지를 수 있다는 사실을 알고 있었습니다. 또는 계속 유포하여 피해자의 명예를 훼손하는 경우 또는 다른 더 나쁜 범죄 행위를 저지릅니다.

블랙 산업 체인 형성

모든 수준에서 명확한 업무 분담

이 검은 산업 체인에서는:

Upstream은 "AI undressing" 모듈과 도구를 변환하기 위해 대규모 모델을 교육합니다.

Midstream은 이러한 도구를 사용하여 가짜 포르노 이미지를 일괄 생성하고 원클릭 옷 벗기 주문을 받아들입니다.

하류에서는 이러한 가짜 음란물 이미지가 '무기'로 활용되어 피해자를 상대로 갈취, 악의적인 비방, 정밀한 재산사기, 명예훼손 등을 자행하고 있습니다.

클릭 한 번으로 지하철 사진이 삭제돼 루머가 촉발됐다.

2023년 3월, 광둥성 광저우의 한 온라인 블로거가 소셜 플랫폼에 평범한 지하철 사진을 올렸다. 클릭 한 번으로 범죄자들이 AI 소프트웨어를 통해 옷을 벗긴 후, 가짜 나체 사진이 생성되어 인터넷에 퍼졌고, 각종 불미스러운 루머까지 낳았습니다.


AI가 음란사진 합성, 협박편지 280통 차단

올해 3월 허난성 난양(南陽)의 한 범죄조직은 AI가 합성한 가짜 사진을 봉투에 일괄 넣어 등기우편으로 전국 은행 직원에게 보내 '입막음금'을 갈취했다. 경찰은 체신부의 협조로 280통의 갈취 편지를 압수하고, AI 뒤에 숨은 범죄조직을 검거하는 데 성공했다.


기술을 남용하는 사용자, 행상 도구 공급자, 가짜 사진을 사용하여 강탈하는 하류 범죄자 등 모두 법적 처벌을 받게 됩니다. 2024년 바이무무(Bai Moumou)는 영리를 목적으로 음란물을 제작하고 판매한 혐의로 징역 3년을 선고받았다. 올해 5월 19일, 베이징시 하이뎬구 인민법원은 판결을 내렸습니다.장 씨는 정보통신망 불법 이용 혐의로 징역 1년 6개월과 벌금 2만 위안을 선고받았다.

사건은 결정됐지만 그 사건이 우리에게 남긴 생각은 아직 끝나지 않았습니다. 검찰은 AI 시대를 맞아 텍스트, 사운드, 사진, 영상 분야가 조용히 사이버범죄의 새로운 '전장'으로 진화하고 있다고 지적했다.


기술은 본질적으로 중립적입니다. 우리의 일과 생활에 편리함을 제공할 수도 있지만, 의도를 가진 사람들이 이용하여 범죄의 도구가 될 수도 있습니다. 좋은 기술을 달성하려면 개발자 모두 윤리적 한계선을 유지하고 사용자는 확실한 법적 수익을 확립해야 합니다.

베이징 하이뎬구 인민검찰원 검사 리 타오(Li Tao)는 다음과 같이 말했습니다.우리나라의 관련 관리부서는 '생성인공지능 서비스 관리에 관한 임시조치'를 발표했는데, 이는 실제로 AI 도구의 제공, 생산, 연구개발에 관한 명확한 의무를 규정하고 있으며, 모두가 이를 엄격히 준수해야 합니다. 일반 사용자의 경우 AI 도구를 사용할 때 불법적이거나 범죄적인 행위를 해서는 안 됩니다.'기술적 중립'을 말하는 것은 결코 불가능하다.

개발자와 플랫폼의 경우 '선을 위한 기술'이라는 수익을 유지하려면 기술의 원천에 '안전 잠금장치'를 추가해야 합니다.

관련 기사:

Hugging Face는 옷을 벗는 여성과 어린이의 깊은 가짜 이미지를 생성하기 위해 노출되고 학대되었습니다. 플랫폼의 보안 보호가 효과적이지 않습니다.