VÉRIF’ – « C’est une erreur judiciaire » : enquête sur ces faux verdicts générés par IA

• Des vidéos de prévenus réagissant à leur condamnation se multiplient sur TikTok.
• Des vidéos systématiquement générées par IA.
• Le phénomène initial vient en réalité des États-Unis où ces vidéos cartonnent.

Un tribunal, des drapeaux français, et la devise « Liberté, Égalité, Fraternité ». Ces dernières semaines, des vidéos, en particulier sur TikTok, montrent des scènes filmées dans des tribunaux français, lors de décisions de justice. Tous les profils y passent : des jeunes adolescents (nouvelle fenêtre) aux personnes âgées (nouvelle fenêtre), en passant par des jumeaux (nouvelle fenêtre). Des vidéos vues jusqu’à 2 millions de fois (nouvelle fenêtre), filmées parfois par des personnes dans la salle, ou des caméras de vidéosurveillance. Certains éclatent en sanglots, d’autres s’énervent. « Madame la juge, c’est injuste », entend-on dans de nombreuses séquences de la part des condamnés affirmant bien souvent qu’il s’agit « d’une erreur judiciaire ». Les vidéos provoquent de nombreux commentaires indignés, s’insurgeant parfois contre la clémence des peines, ou s’étonnant au contraire de leur sévérité.

Dernier point commun entre toutes ces vidéos : aucune d’entre elles n’est réelle. Elles ont toutes été générées par intelligence artificielle. La rédaction des Vérificateurs a ainsi pu identifier une soixantaine de vidéos similaires, uniquement en français. D’où vient ce phénomène de fausses vidéos générées par IA dans des tribunaux, et quel est son objectif ? Nous avons mené l’enquête.

Des vidéos absurdes, d’autres ciblant des communautés

Nos recherches sur les réseaux sociaux en français nous ont d’abord menés sur des comptes TikTok. Plusieurs d’entre eux, comme ici (nouvelle fenêtre) ou là (nouvelle fenêtre), utilisent ainsi des mots-clés comme « sentence », « justice française » ou « cour d’assises ». Certaines vidéos étaient même géolocalisées au tribunal de justice de Paris (nouvelle fenêtre). Nous avons ainsi compté une soixantaine de vidéos de la sorte, venant d’une dizaine de comptes francophones au total.

Certaines vidéos identifiées étaient absurdes dans le cadre juridique français, prononçant des peines de prison dépassant parfois la centaine d’années (nouvelle fenêtre). D’autres étaient plus trompeuses, mettant par exemple en scène une grand-mère (nouvelle fenêtre)condamnée pour une raison inconnue, suscitant des réactions haineuses envers les autorités judiciaires. L’équipe des Vérificateurs a pu constater que, dans les commentaires de ces vidéos, des utilisateurs avertissaient les autres que les vidéos étaient générées par IA. Mais la majorité des commentaires semblaient réagir au contenu, sans comprendre qu’il s’agissait de scènes fabriquées.

Dans certains cas, des communautés sont ouvertement ciblées avec une tonalité raciste. Une vidéo (nouvelle fenêtre) présentant notamment un jeune homme du nom de « Djamel », condamné pour « trafic de drogues et meurtre sur deux fillettes ». « Comme toutes les racailles de quartier, il jure sur le Coran qu’il retrouvera la juge à sa sortie », ajoute une voix commentant la « décision ». La scène provoque ainsi de nombreux commentaires du type « hasard, hasard, toujours les mêmes », certains demandant jusqu’à la peine de mort pour l’individu. Pour aller plus loin dans la tromperie, certains comptes, comme celui-ci (nouvelle fenêtre), semblaient mélanger des chroniques judiciaires réelles avec des vidéos totalement fabriquées. Dans d’autres scènes (nouvelle fenêtre), la thématique religieuse est instrumentalisée, mettant en scène des femmes voilées, avec une juge accusée de prendre une décision du fait des croyances du prévenu.  

Des comptes qui ne cachent d’ailleurs pas leur orientation idéologique, indiquant dans leur biographie « réservé aux Français » (nouvelle fenêtre) avec le drapeau tricolore. Le phénomène existe donc en France, où des comptes capitalisent surtout sur des vidéos à forte valeur émotionnelle, jouant parfois sur des thématiques liées à l’origine ethnique ou religieuse.

Une tendance venue des États-Unis

Ces vidéos sont totalement inspirées d’une tendance beaucoup plus importante venue des États-Unis, où l’on trouve les plus virales. Des séquences, principalement en anglais, montrent des individus arborant la traditionnelle tenue orange des détenus américains. Par exemple (nouvelle fenêtre), celle d’un enfant jugé pour « avoir menti sur son âge afin de travailler de nuit et subvenir aux besoins de sa petite sœur après la mort de ses parents », vue 2 millions de fois. Une autre (nouvelle fenêtre), montrant un homme au tribunal tentant de s’échapper, a même atteint 17 millions de vues récemment sur la plateforme X. 

Le phénomène a été documenté par une enquête du média indépendant Indicator (nouvelle fenêtre), établissant que 24 chaînes YouTube mettaient en scène « des contenus juridiques, judiciaires ou filmés par des caméras corporelles, générés par l’IA » cumulant au total 1,7 milliard de vues. 

Parmi elles, la chaîne YouTube Lifex1000 (nouvelle fenêtre) cumulait à elle seule un demi-milliard de vues avec des vidéos jouant sur la thématique de l’immigration pour attiser les tensions. Une des plus populaires (nouvelle fenêtre) repérée par le média était intitulée : « Un Somalien en situation irrégulière condamné à 25 ans de prison pour vol à main armée et fraude ».  La même chaîne a aussi publié plusieurs vidéos montrant des femmes noires et latines condamnées pour des crimes ou réprimandées par un juge pour s’être présentées au tribunal en tenue légère, suscitant ainsi des commentaires racistes. À l’inverse, de nombreuses séquences mettent également en scène des vétérans, des juges, des ambulanciers et d’autres Américains, principalement blancs, ayant subi des jugements injustes. Un tiers de ces chaînes ne prévenait pas les utilisateurs qu’il s’agissait de contenus générés par IA.

À la suite de son enquête, Indicator a transmis la liste de ces 25 chaînes à YouTube, qui en a supprimé six au total, et démonétisé quatre autres. Mais les principales, comme Lifex1000, restent actives et n’ont supprimé aucune vidéo, sans pour autant préciser le caractère artificiel de ces dernières.