최근 AI 기술이 사기꾼의 도구가 되면서 많은 전자상거래 가맹점에서 'AI가 손상된 사진을 위조해 환불을 속이는' 사건이 발생했다. 더블11 이후 이러한 분쟁은 집중적으로 발생했다. 바이어들은 온전한 과일과 새 옷에 곰팡이 반점을 이용해 오프라인 사진을 찍기도 하고, 제품 결함을 이유로 '환불만'을 신청하기도 했다.
한 도자기 가게 주인은 컵 몸체에 금이 간 사진을 받은 적이 있는데, 테스트 결과 "92% 확률은 AI에 의해 발생한다"는 결과가 나왔습니다. 판매자가 영상 인증을 요구하자 구매자는 돈을 환불할 필요가 없다고 말했다.
상점 주인을 더욱 어리둥절하게 만드는 것은 일부 구매자가 AI가 생성한 워터마크를 처리조차 하지 않았다는 것입니다. 더욱이 일부 사람들은 "환불 전용" 사기를 위해 AI를 사용하여 피해 사진을 위조하는 방법을 사람들에게 가르치기 위해 돈을 청구합니다.
이와 관련해 일부 변호사들은 “이러한 행위는 사기 혐의가 있다”고 경고했다. 소비자가 부당한 이익을 얻기 위해 사실을 조작하는 행위는 민법상 신의의 원칙과 소비자권익보호법의 입법정신에 위배되는 전형적인 민사사기 행위입니다.