La Commission européenne a annoncé, lundi 26 janvier, l’ouverture d’une nouvelle enquête contre le réseau social d’Elon Musk, X, en raison des fausses images de mineurs et de femmes dénudés générées par Grok, son assistant d’intelligence artificielle.
L’Europe ne « tolérera pas les comportements insensés » des plateformes numériques, comme « les fausses images dénudées de femmes et d’enfants », a affirmé la présidente de la Commission européenne, Ursula von der Leyen, dans une déclaration à l’Agence France-Presse (AFP). « Notre position est claire : nous ne confierons pas le consentement et la protection de l’enfance à des plateformes technologiques pour qu’elles les violent et les monétisent », a assuré la cheffe de l’exécutif européen, ajoutant : « Des mesures ont été prises, mais nous devons en faire plus pour protéger les citoyens, en ligne comme hors ligne. »
Cette nouvelle enquête vise à vérifier si le réseau, anciennement connu sous le nom de Twitter, a enfreint les puissantes règles européennes sur le numérique qui lui imposent de protéger les utilisateurs contre les contenus illégaux.
Sollicité par Le Monde, X renvoie vers un communiqué déjà publié le 14 janvier, dans lequel le réseau social assure « rester déterminé à faire de X une plateforme sûre pour tous » et promet « d’appliquer une tolérance zéro à l’égard de toute forme d’exploitation sexuelle d’enfants, de nudité non consentie et de contenu sexuel non désiré ».
Tollé
Face au tollé soulevé par la prolifération de telles images, des procédures ont déjà été lancées dans plusieurs pays, notamment en France et au Royaume-Uni, et l’accès à Grok a même été suspendu ou bloqué par plusieurs Etats.
Après avoir d’abord limité l’accès à cette fonctionnalité, X a annoncé, à la mi-janvier, un bridage de son outil d’IA dans les pays où la création de telles images sexuelles est illégale.
Selon une étude publiée par le Center for Countering Digital Hate, ONG qui dénonce fréquemment les pratiques de X, Grok a généré quelque 3 millions d’images sexualisées de femmes et d’enfants sur une période de onze jours, soit 190 images par minute en moyenne.
Une autre analyse, réalisée par l’organisation AI Forensics, montrait que sur plus de 20 000 images générées par Grok, plus de la moitié représentaient des personnes légèrement vêtues, dont 81 % étaient des femmes et 2 % paraissaient mineures.
Possibles représailles
Parallèlement à la nouvelle procédure lancée lundi, la Commission européenne a décidé d’étendre le périmètre d’une autre enquête lancée en décembre 2023 contre X, toujours dans le cadre de sa législation sur les services numériques, le Digital Services Act (DSA). Elle avait déjà infligé en décembre une amende de 120 millions d’euros au réseau d’Elon Musk.
Le réseau social était dans le collimateur de l’UE depuis plusieurs semaines en raison de ce scandale. Bruxelles avait pris une première mesure au début de janvier, en ordonnant à X de conserver tous ses documents et données internes relatifs à Grok, jusqu’à la fin de l’année.
Avec cette nouvelle procédure ciblant X, l’Europe prend le risque de s’attirer de nouvelles représailles de la part de Donald Trump, alors que les tensions suscitées par sa volonté de s’emparer du Groenland viennent juste de s’apaiser.
Le président américain ne cesse d’accuser Bruxelles de cibler par sa législation numérique les champions américains de la tech. Son administration a pris des mesures en représailles à la fin de décembre, en imposant des sanctions à l’ancien commissaire Thierry Breton, artisan du DSA, ainsi qu’à quatre autres personnalités européennes engagées pour une stricte régulation de la tech et contre la désinformation.
