VÉRIF’ – Enquête sur ces faux moines créés par IA qui inondent le marché du bien-être

• Le compte d’un faux moine donnant des conseils spirituels fait des dizaines de millions de vues.
• Des contenus générés par IA dont l’objectif est de vendre des guides de bien-être.
• Plusieurs comptes similaires de moines ou de chefs indiens utilisent les mêmes techniques pour vendre des produits.

« Dites-vous ces trois choses avant de dormir, et votre anxiété va s’envoler », explique face caméra un homme habillé en tenue de moine, dans un décor rappelant les temples bouddhistes. Une voix apaisante et une douce musique accompagnent ses conseils. Ce compte, c’est celui de Yang Mun (nouvelle fenêtre), un « sage guérisseur » prodiguant des conseils spirituels et de bien-être. Avec une popularité très importante, puisque ce dernier cumule au total près de 5 millions d’abonnés sur l’ensemble de ses réseaux sociaux, avec des vidéos allant jusqu’à 20 millions de vues. Le moine affirme, selon sa biographie, être basé aux États-Unis, et parle un anglais impeccable.

Dans les commentaires, de nombreux utilisateurs remercient Yang Mun pour sa sagesse, souhaitant que ce dernier les aide au quotidien à se sentir mieux. Peu semblent réaliser qu’ils interagissent avec un personnage fictif, totalement fabriqué avec l’aide de l’intelligence artificielle. 

Des erreurs typiques de l’IA

Sur son site (nouvelle fenêtre), Yang Mun l’affirme : il est « une personne réelle », en ajoutant qu’il n’y a « aucune personnalité IA » utilisée. Pourtant, en observant bien les vidéos de ce moine, des erreurs sautent aux yeux. D’abord, le visage du moine, censé être toujours le même, change d’une vidéo à l’autre. Ensuite, ses dents changent de taille et de forme au fil des vidéos. Dans certains contenus, des calligraphies en chinois sont visibles. Nous les avons montrées à des sinophones qui ont confirmé à notre rédaction qu’il s’agissait de charabias indéchiffrables.

Le compte a attiré l’attention de plusieurs spécialistes de l’IA, en anglais (nouvelle fenêtre) comme en français. Ninon IA (nouvelle fenêtre), une créatrice de contenus qui décrypte l’intelligence artificielle, a publié début janvier une vidéo sur son compte Instagram (nouvelle fenêtre) pour alerter sur la supercherie. « Quand on regarde toutes les vidéos de ce moine, ce sont des prises longues, aucune coupe, aucune interruption, avec un regard fixe, sans hésitation, c’est donc forcément suspect », explique-t-elle à l’équipe des Vérificateurs. La spécialiste pointe aussi du doigt l’aspect « trop lisse, quasi comme un dessin animé ».

La rédaction des Vérificateurs a également analysé toutes les images présentes sur le site Internet de Yang Mun, souvent prises dans les mêmes décors ayant servi aux vidéos. Systématiquement, une recherche d’image inversée avec Google révèle que les contenus ont été générés par IA en utilisant les outils de la firme américaine. Le personnage semble ainsi lui-même inventé de toute pièce. 

Un business bien réel

Les vidéos de Yang Mun ne servent pas juste à faire des vues. Le « moine » renvoie régulièrement vers sa biographie proposant « un parcours de guérison en 30 jours » et des guides numériques allant de 10 à 50 euros.

La rédaction des Vérificateurs s’est procuré un de ces livres pour l’analyser. Cinq outils de détection de textes générés par IA ont permis d’évaluer que les contenus de ces livres étaient à minima entre 50 et 70% générés par des outils d’intelligence artificielle. Un des détecteurs a même estimé que certains chapitres étaient à 100 % rédigés avec l’IA. Nous avons aussi repéré des bizarreries symptomatiques d’erreurs de l’intelligence artificielle, comme des paragraphes doublonnés ou des copiés-collés entre les chapitres.

Enfin, nous avons également demandé à des outils génératifs d’intelligence artificielle, comme ChatGPT et Google Gemini, de rédiger des conseils utilisant les préceptes de la médecine traditionnelle chinoise tout en reprenant des titres de chapitres de ce livre.  Sans obtenir exactement les mêmes textes, ces IA ont proposé les mêmes astuces que le livre. Par exemple, pour soigner le mal de dos, l’IA propose des massages chauffants, d’éviter de boire froid ou de manger des « aliments noirs » comme le sésame. Des conseils en réalité disponibles gratuitement en ligne sur des sites de médecine traditionnelle chinoise.

Impossible de savoir avec précision combien de livres ont été achetés. Le site de Yang Mun affirme en avoir déjà vendu environ 7000. « Après que j’ai parlé de ce compte, des personnes m’ont écrit affirmant avoir acheté le livre, et m’ont demandé si c’était une arnaque », confirme de son côté Ninon IA (nouvelle fenêtre).

Des dizaines de comptes similaires

Yang Mun est loin d’être le seul exemple. La rédaction des Vérificateurs a identifié une dizaine de comptes similaires avec des personnages fictifs parlant face caméra et proposant divers produits. Ce compte d’un moine bouddhiste, par exemple, propose des gélules à base de betterave pour « stimuler l’énergie axée sur le cœur ». Cet autre (nouvelle fenêtre) vend également un ebook ressemblant comme deux gouttes d’eau à celui de Yang Mun. La rédaction des Vérificateurs a pu identifier que certains de ces comptes étaient administrés depuis les États-Unis, la Grande-Bretagne et, pour un cas, de République tchèque.

Les moines ne sont pas les seuls personnages : nous avons aussi pu trouver le cas d’un chef amérindien (nouvelle fenêtre) faisant la promotion de gommes probiotiques à base de kombucha. Dans certaines vidéos, le produit en question est même incrusté dans la vidéo générée par IA, preuve des prouesses possibles de ces vidéos. Dans d’autres, le chef est interviewé par un pseudo-journaliste.

Utiliser la thématique du bien-être spirituel pousse parfois même à voler l’identité de vraies personnes. Le prêtre catholique américain Mike Schmitz a alerté ses abonnés (nouvelle fenêtre) en novembre dernier sur plusieurs comptes sur TikTok se faisant passer pour lui. Des vidéos qui utilisaient des deepfakes, et appelaient notamment à des dons pour Lourdes.

Un phénomène également constaté par Ninon IA. « On a une sorte de marchandisation du sacré qui n’est pas du tout alignée avec la philosophie de ce genre de personnes », déplore la créatrice de contenus, ajoutant que ces religieux « sont plus dans l’acte de compassion, le transfert de mérites, et là on est sur quelque chose de vraiment pécunier qui ne correspond pas du tout à ce pourquoi ils sont formés ».

Pour ces faux comptes, l’enjeu est de taille. Selon certaines études (nouvelle fenêtre), le marché du bien-être et du spirituel est évalué à plusieurs centaines de milliards de dollars. Il pourrait même doubler d’ici 10 ans. 

Vous souhaitez nous poser des questions ou nous soumettre une information qui ne vous paraît pas fiable ? N’hésitez pas à nous écrire à l’adresse lesverificateurs@tf1.fr. Retrouvez-nous également sur X : notre équipe y est présente derrière le compte @verif_TF1LCI.