요약:
"과거에는 모델 사진을 포토샵을 많이 했지만 최소한 원단이나 질감은 볼 수 있었어요. 이제는 AI를 직접 사용합니다. AI에게 팔아볼까?" 많은 네티즌들은 소셜 플랫폼에 전자상거래 AI 모델 사진이 '왜곡됐다', '패턴을 판단할 수 없다'고 불만을 토로했다. Double Eleven이 다가오면서 전자상거래 AI 모델의 혼란스러운 디스플레이가 열띤 토론을 촉발했습니다. The Paper의 조사에 따르면 일부 매장에서 AI 모델의 손이 꼬이고 다리가 세 개 있는 것으로 나타났습니다. 댓글란에는 '다리 세 개'를 가진 AI 모델의 긍정적인 사진도 있었습니다. 결함은 너무나 뻔한데, AI가 만든 로고가 거의 눈에 띄지 않아 정품인지 아닌지 구별하기 어려워 소비자에게 혼란을 안겼다.
온라인 상점에 있는 소녀 모델의 사진, 손 자세는 분명히 인체 구조에 위배됩니다.
혼란 뒤에는 성숙한 AI 모델 산업 체인이 있습니다. 옷의 실제 사진을 찍으려면 모델, 장소, 촬영 비용이 최소 200~300위안 정도 듭니다. AI가 생성한 모델 사진의 가격은 개당 6위안에 불과하며 비용 이점이 한눈에 분명합니다. 인터넷에서는 여성 의류 사진에 대한 AI 프롬프트 모음과 상품 가져오기 작업 흐름에 대한 튜토리얼이 저렴한 가격에 판매되며 수만 장이 판매됩니다. 상인이 옷 사진을 보내면 AI가 제작한 필름은 30분 만에 받아볼 수 있지만, 실제 촬영에는 하루나 이틀이 걸리는 경우가 많다. 한편으로는 비용을 절감하고 효율성을 높이려는 상인들의 현실적 요구가 있고, 다른 한편으로는 상품이 사진과 다르다는 소비자들의 불만이 계속되고 있습니다. 일부 플랫폼에서는 가짜 AI 사진을 수정하고 AI 라벨링 요구 사항을 명확히 하는 규칙을 연속적으로 도입했습니다.
우선 기업이 AI 모델 사진을 사용하는 것이 불법이 아니라는 점을 인정해야 한다. AI를 사용하여 제품 디스플레이를 위한 가상 모델을 생성하는 것은 인공 지능의 일반적인 적용이며 현행법에 의해 금지되지 않습니다. 기술 자체에는 원죄가 없습니다. 실제 사진도 과도하게 편집되어 실제 사진과 다를 수 있습니다. AI 사진 역시 제품을 충실히 복원하는 한 합법적이다. 많은 네티즌들이 말했듯이 "실제 디스플레이는 완전히 현실적이지 않을 수 있습니다. 저는 잘 만들어진 AI를 거부하지 않습니다."
AI가 원죄는 아니지만 은폐는 함정이다. 법이 제한하는 것은 기술적 도구가 아니라 오해와 사기입니다. 가맹점의 AI 모델 사용이 허위 홍보 또는 소비자 사기에 해당하는지 여부의 기준은 결코 'AI 사용 여부'가 아니라 표시된 이미지가 실물과 일치하는지, 정보를 의도적으로 숨겼는지 여부입니다. 원단과 스타일을 객관적으로 제시하고, 품질을 조작하지 않고, 결점을 숨기지 않고, AI 속성을 적극적으로 표시하고 허위 유인을 하지 않는 한 소비자 사기의 레드라인은 건드리지 않을 것입니다.
반면, AI 렌더링과 실제 상품 사이에 큰 괴리가 있거나, 합리적인 미화의 경계를 무너뜨리고, 고객 서비스에 관한 거짓말과 선입견을 더하거나, AI 로고를 의도적으로 지우는 등의 행위를 한다면 쉽게 소비자 사기로 식별될 것입니다. 소비자권익보호법 제55조에 따르면 가맹점은 '1환불 3배상'의 징벌적 손해배상을 부담해야 한다. AI는 기업이 책임을 회피하기 위한 금메달이 된 적도 없고, 사기에 대한 투명 망토도 아닙니다. AI를 방패로 사용하려는 사람은 누구나 거짓 선전에 대한 대가를 치르게 될 것입니다.
'인공지능에 의해 생성된 합성 콘텐츠의 라벨링 대책'에서는 AI가 생성한 그래픽, 텍스트, 비디오에 대해 명확하고 인식 가능한 라벨을 설정해야 한다는 점을 오랫동안 분명히 해왔습니다. 표시 없이 은폐하는 것은 소비자에게 오해를 불러일으킬 수 있어 알권리 침해에 해당합니다. 플랫폼 역시 검증의 의무가 있습니다. 합성 흔적의 흔적을 탐지했지만 이를 선언하지 않는 콘텐츠의 경우, 콘텐츠를 즉시 표시하고 소비자 신뢰를 위한 '문지기' 역할을 해야 합니다.
AI 모델이 더블일레븐을 '포착'하기 때문에 질식해서 식사를 중단할 필요가 없습니다. 도구는 선하지도 악하지도 않습니다. 책임은 그것을 사용하는 사람에게 있습니다. AI를 올바르게 활용하고 소비자를 속이지 않는다는 원칙을 지켜야만 AI 모델이 진위 여부를 구별하기 어려운 여론의 소용돌이에서 벗어나 '위조 도구'라는 부정적인 라벨을 벗고 진정으로 실물 경제에 뿌리를 내리고 소비자에게 서비스를 제공하며 전자상거래 업계에서 신뢰할 수 있고 사용하기 쉬운 디지털 도우미가 될 수 있습니다.
댓글