- L’assistant IA du réseau social X est accusé d’avoir dénudé des mineurs en ligne.
- Le parquet de Paris a étendu vendredi son enquête visant X à Grok pour la diffusion de « deepfakes », de fausses vidéos à caractère sexuel.
- Grok admet des « failles » qu’il promet de corriger « de toute urgence ».
Accusé de générer et de diffuser des « deepfakes »
, l’assistant IA du réseau social X a reconnu vendredi 2 janvier l’existence de « failles »
ayant permis à des utilisateurs d’obtenir de lui des images à caractère sexuel impliquant des mineurs ou des femmes, suscitant des protestations à travers le monde et l’élargissement d’une enquête judiciaire en France.
« Nous avons identifié des failles dans nos garde-fous et nous les corrigeons de toute urgence – la pédopornographie est illégale et interdite »
, a écrit le compte X de Grok, en réponse à l’interpellation d’un utilisateur après plusieurs jours de signalements sur la plateforme.
Ces signalements portaient sur les agissements d’internautes qui avaient soumis à Grok des photos ou des vidéos de personnes réelles et obtenu que l’assistant IA les retouche pour les dénuder totalement ou partiellement.
Extension d’une enquête du parquet de Paris visant X
Le parquet de Paris a par ailleurs étendu vendredi son enquête visant X à Grok, accusée par trois ministres et deux députés d’avoir généré et diffusé de fausses vidéos à caractère sexuel, « mettant notamment en scène des mineurs »
, a appris l’AFP auprès du ministère public.
« Ces derniers jours, l’intelligence artificielle Grok a permis la génération et la diffusion de contenus à caractère sexiste et sexuel, notamment sous forme de fausses vidéos (deepfakes), visant des personnes sans leur consentement »
, ont détaillé les ministres Roland Lescure, Anne Le Hénanff et Aurore Bergé, précisant que le gouvernement a effectué un signalement sur la plateforme Pharos et demandé « leur retrait immédiat »
.
Deux ans d’emprisonnement et 60.000 euros d’amende
« Le délit de montage à caractère sexuel d’une personne sans son consentement est puni de deux ans d’emprisonnement et de 60.000 euros »
, a rappelé le parquet.
L’enquête initiale contre X avait été ouverte en juillet à la suite de signalements contre le réseau social et ses dirigeants, accusés d’avoir biaisé l’algorithme de la plateforme à des fins d’ingérence étrangère.
L’Arcom, l’autorité de régulation de la communication audiovisuelle et du numérique, a également été saisie, « au titre de possibles manquements de X à ses obligations découlant du Digital Services Act »
, le règlement européen sur les services numériques.
