« L’image est fausse » : ces fraudeurs qui trompent l’IA des sites de vente entre particuliers en utilisant… l’IA

• Les plateformes de ventes entre particuliers, pilotées par l’intelligence artificielle, sont vulnérables face aux escroqueries au remboursement utilisant elles aussi cette technologie.
• Regardez cette enquête édifiante du 20H de TF1.

Il y a quelques semaines, Adam, habitué à vendre des objets sur une célèbre plateforme de vente en ligne, parvient à y trouver un acheteur pour l’un de ses plus précieux vinyles d’une valeur de 180 euros, encore sous blister. La transaction est validée avec un acheteur néerlandais, mais une fois la livraison effectuée, ce dernier ouvre instantanément un litige et lui envoie une photo du vinyle soi-disant arrivé brisé. L’étudiant n’en croit pas ses yeux. « La première réaction que j’ai : je rigole, j’explose de rire. Là, je comprends que l’image est fausse, elle n’est pas réelle. Enfin un vinyle c’est en plastique, ça ne se casse pas comme de la porcelaine, comme une assiette qu’on aurait jetée au sol. Donc l’image est grossière et elle est générée par l’intelligence artificielle », assure-t-il dans le reportage du 20H de TF1 visible en tête de cet article.

Jamais un humain n’est intervenu sur mon cas. On dépend de leur système, c’est très bien quand ça marche mais quand ça marche pas, on en souffre.

Adam, victime d’un escroc sur une plateforme de vente entre particuliers

Adam en est persuadé, l’acheteur tente de l’arnaquer. Il a bien reçu le vinyle en bon état mais se sert de l’intelligence artificielle pour demander un remboursement. Problème, c’est une autre intelligence artificielle, celle de la plateforme, qui examine le litige. Immédiatement, elle rejette la faute sur Adam qui aurait mal emballé le produit. Le litige est donc validé, il ne recevra pas d’argent et aucun recours n’est possible. « Pendant un mois, je les ai relancés via différents tickets et c’est toujours des chat-bots qui m’ont répondu. Jamais un humain n’est intervenu sur mon cas. On dépend de leur système, c’est très bien quand ça marche mais quand ça marche pas, on en souffre », souligne-t-il. 

Dernier rebondissement en date : suite à l’annonce du reportage de TF1, la plateforme a remboursé l’étudiant et se justifie dans un communiqué. « Avec des millions de transactions sur notre plateforme, des erreurs peuvent survenir occasionnellement (…) Nous nous efforçons de les corriger dès que possible », écrit-elle. Le cas d’Adam n’est pas isolé. Sur les réseaux sociaux, de nombreux internautes font part ces derniers jours d’expériences similaires. Certains affirment même déjà avoir fraudé de cette façon. Notre équipe a voulu vérifier si l’intelligence artificielle pouvait facilement abîmer des objets pourtant en très bon état. Les résultats sont parfois très convaincants, comme on peut le voir sur la photo ci-dessous. 

Les tentatives sont de plus en plus nombreuses.

Un géant du e-commerce

Le phénomène touche également les entreprises d’e-commerce, mais le sujet est sensible. Aucune n’accepte de dire face caméra qu’elle est concernée, mais en privé, un géant du e-commerce l’avoue : « Oui, les tentatives sont de plus en plus nombreuses ». Il est impossible d’évaluer l’ampleur de cette fraude, mais les spécialistes du secteur estiment que 15% des demandes de remboursement seraient infondées. Alors les e-commerçants sont bien décidés à s’armer contre. « De plus en plus de marchands viennent nous voir pour travailler avec nous sur ce sujet de la fraude au remboursement. C’est vraiment le sujet sur lequel on vient nous voir en ce moment », explique Laure Littler, directrice générale d’Oneytrust. 

Cette entreprise développe des algorithmes capables d’évaluer en temps réel si une opération est suspecte. « On répond à l’IA par l’IA puisque l’objectif c’est d’identifier des anomalies et donc de mettre le doigt sur des comportements douteux, des identités douteuses. La probabilité que ce retour-là soit frauduleux parce qu’il est très peu probable, par exemple », ajoute la directrice générale. La tâche ne peut pas être confiée à des humains, car les demandes de remboursement sont bien trop nombreuses. S’il s’avère que l’IA elle-même finit par être dépassée, la solution pourrait bien être d’obliger les acheteurs à renvoyer le produit pour le contrôler. « Ça n’était pas fait auparavant parce que c’était assez anecdotique finalement le nombre de produits retournés. Les consommateurs jetaient ce produit, mais là, vu l’ampleur du phénomène, on pourrait exiger des retours », avance Gaëlle Pantin-Sohier, experte en marketing. 

Considérée comme une escroquerie ou un abus de confiance, la fraude au remboursement peut être punie jusqu’à 5 ans d’emprisonnement et 375.000 euros d’amende.