Depuis plusieurs semaines, des images montrant des créations impressionnantes sont devenues virales.
Principalement diffusées sur Facebook, elles ont en réalité été générées par intelligence artificielle.
Une stratégie qui va de la recherche de buzz à l’arnaque en ligne.
Suivez la couverture complète
L’info passée au crible
Jamais les réseaux sociaux n’avaient compté autant d’enfants prodiges. Depuis le mois de mars, les photos de réalisations extraordinaires qui auraient été réalisées par de jeunes surdoués en utilisant uniquement des matières recyclées se multiplient, principalement sur Facebook. À chaque fois, le modèle est similaire. Un enfant pose fièrement à côté d’un énorme chien, d’une voiturette ou d’un avion ultra-réalistes, sculptés avec des bouteilles en plastique ou des bouts de bois. Des clichés sensationnels, accompagnés parfois d’un texte dans un français approximatif. Sauf que les images n’ont rien de réel.
Générées par IA en trente secondes
Plusieurs indices visuels, comme un enfant qui n’a que quatre doigts, ou l’absence de marques de bouteilles identifiables, prouvent que ces clichés sont en réalité des images générées par l’intelligence artificielle. Nous avons par ailleurs retrouvé la trace de certaines demandes rédigées par des internautes dans MidJourney, ce logiciel capable de créer des images à partir de descriptions textuelles.
Mais alors pourquoi connait-on un essor de ces clichés ? Premièrement, parce qu’ils sont devenus accessibles et simples à réaliser. Comme le démontre notre test, disponible dans la vidéo en tête de cet article, en moins de 30 secondes, n’importe quel internaute propriétaire d’un abonnement peut générer une image spectaculaire.
Deuxièmement, ces exploits prétendus génèrent des interactions. C’est tout particulièrement le cas sur Facebook, où le public est plus âgé, avec près de la moitié des inscrits qui ont plus de 45 ans. Sous les publications, les commentaires de parents ou grands-parents touchés par ces prouesses fusent. Dans toutes les langues, chacun y va de son message pour « féliciter » les parents et leurs petits génies. En mars, l’université américaine Stanford avait ainsi identifié dans un rapport jusqu’à 120 pages Facebook postant ce type d’images. Nous en avons compté au moins une vingtaine toujours actives ce mois de juin. Au total, d’après nos recherches, la phrase « j’ai fabriqué cet objet à partir de bouteilles usagées » a suscité plus de 900.000 interactions depuis le mois de mars sur Facebook.
Or, provoquer de l’interaction en ligne, c’est une stratégie financière qui peut s’avérer payante. D’abord, un contenu qui fait du buzz, c’est un contenu qui peut être immédiatement monétisé, comme sur le réseau social X. Ensuite, plus une page est suivie, plus son prix augmente. Par exemple, un compte que nous avons identifié comme publiant exclusivement du contenu généré par IA est arrivé à cumuler à travers ses « œuvres » 88.000 abonnés. Une influence qu’il va alors pouvoir vendre au plus offrant sur internet et engranger jusqu’à 250 euros.
Une audience qui peut être une mine d’or pour les voyous 2.0. Une page que nous avons identifiée propose par exemple des formations payantes pour devenir millionnaire. Un comble quand on sait qu’il s’agit surtout d’une stratégie bien rodée pour escroquer les internautes les moins vigilants. Pour ne pas se faire avoir, une seule solution : faire attention au moindre détail. Sur la photo, plusieurs éléments peuvent trahir l’utilisation d’une intelligence artificielle. Et dans les commentaires, les internautes les plus aguerris peuvent, eux aussi, vous mettre sur la piste de l’arnaque.
REPORTAGE – Déjouer les arnaques sur Internet, ça s’apprend !Source : JT 13h Semaine
02:05
Vous souhaitez nous poser des questions ou nous soumettre une information qui ne vous paraît pas fiable ? N’hésitez pas à nous écrire à l’adresse [email protected]. Retrouvez-nous également sur Twitter : notre équipe y est présente derrière le compte @verif_TF1LCI.