Fausses images courantes de l’IA dans les achats en ligne. Carte des données

De courtes vidéos avec des filtres de beauté, des notes de plantation trop embellies et de fausses images de produits synthétisées par l’IA sont devenues l’un des plus gros problèmes de ......'industrie du commerce électronique ces dernières années. Le 27/0, Taobao a lancé la gouvernance des fausses images d’IA, réprimant sévèrement les violations de l’utilisation de fausses images d’IA pour tromper les consommateurs et enfreindre les marchands de marques originales, protégeant les droits et les intérêts des marchands d’origine et des consommateurs, et devenant le premier dans l’industrie.

Selon la personne concernée en charge de Taobao, la plateforme identifiera clairement les scénarios typiques de fausses images de l’IA tels que « le matériel ou le style incohérent des produits », « la distorsion ou l’effet exagéré », la « distorsion des biens causée par des scènes de non-existence », la « distorsion évidente des textures découpées » et d’autres fausses images de l’IA, et lancera un modèle de reconnaissance, et régira de manière exhaustive les fausses images de l’IA de la plateforme par le biais de mesures telles que « l’interception de la source », le « nettoyage des stocks » et le « rappel d’identification ».

具體為，在商品發佈端，實時檢測和攔截失真圖片。此外，在商品詳情頁還將上線AI合成提示標識，以保障消費者的知情權。截至目前，平臺已累計攔截過度PS、AI誇大的假圖近10萬張。

Les fausses images de l’IA font référence à l’utilisation de l’IA et d’autres technologies pour synthétiser et présenter des rendus de produits considérablement déformés et incohérents, y compris, mais sans s’y limiter, les effets de produits fictifs de l’IA, le plagiat et l’épissage de styles originaux, la falsification des matériaux ou des fonctions du produit, et la falsification et l’assemblage de fausses scènes. L’existence d’un grand nombre de fausses images d’IA induit non seulement les consommateurs en erreur, enfreint leur droit à l’information, mais perturbe également l’écologie des affaires, faisant en sorte que la mauvaise monnaie chasse la bonne monnaie.

« Regardez le même modèle sur l’ensemble du réseau, tout est une image, je ne peux pas dire lequel est authentique », « La page de recherche est pleine d’images de modèles d’IA, et je ne peux pas du tout dire la vraie chose »...... Sur les plateformes sociales, il n’est pas rare que les consommateurs se plaignent de « fraude photo IA », et ils sont trompés s’ils ne font pas attention : « Regardez la photo c’est un manteau en tweed, mais les marchandises reçues sont des fibres de polyester ». Les fausses images et le faux marketing ont conduit les consommateurs à marcher à plusieurs reprises sur les fosses, provoquant de nombreuses insatisfactions et plaintes.

Les marchands d’origine sont également misérables, et les marchands sans scrupules utilisent l’IA pour voler des images de produits par lots à faible coût et contrefaire des produits populaires. « L’image du modèle a été directement utilisée par l’IA pour changer l’arrière-plan, le prix était plus bas et le volume des ventes était supérieur au nôtre. » C’est un responsable d’une marque originale de vêtements pour hommes. Certaines entreprises ont également signalé qu’elles avaient utilisé leurs droits de portrait pour se plaindre que l’image du modèle avait été violée, et que l’autre partie avait continué à la voler par le biais de l’échange de visage par l’IA, ce qui était extrêmement coûteux.

« L’IA n’a peut-être pas de jugement de valeur, mais les consommateurs d’IA doivent avoir un jugement et la plateforme doit avoir une orientation vers les valeurs. » Taobao a souligné que le développement et l’utilisation de l’IA devraient améliorer l’expérience du consommateur, promouvoir l’originalité et protéger les droits et les intérêts des commerçants légitimes, plutôt que de devenir un outil pour des profits illégaux dans l’industrie noire et grise. « Nous avons également lancé une initiative à l’ensemble de l’industrie : normaliser l’utilisation des images générées par l’IA, garantir l’authenticité des informations sur les produits et rejoindre la gouvernance complète des fausses images par l’IA, afin que l’industrie puisse revenir à une concurrence de qualité. »