Alors que les témoignages de femmes victimes de publications d’elles dénudées par Grok, l’intelligence artificielle (IA) du réseau social X d’Elon Musk, se multiplient dans la foulée du Nouvel An, la haute-commissaire à l’enfance française, Sarah El Haïry, s’est dite sur X « scandalisée par les requêtes adressées à #GrokAI de dénuder des filles et femmes ». Pour l’ancienne ministre de l’enfance, de la jeunesse et des familles, « si l’image est artificielle, le préjudice est bien réel ».
Cette nouvelle utilisation de l’IA permet à un utilisateur du réseau social de formuler des requêtes telles que « mets-la en bikini » ou « enlève-lui ses vêtements » à partir d’une simple photo publiée sur X. Les internautes obtiennent alors instantanément des images modifiées montrant la personne dans la tenue souhaitée. Le hashtag #Grok apparaissait en milieu d’après-midi en neuvième position des tendances sur X, avec 1,43 million de publications.
Le porte-parole du Parti socialiste, Arthur Delaporte, a réagi sur X en soulignant qu’il allait préconiser dans « un rapport » qui sera remis au gouvernement « la première quinzaine de janvier » d’« interdire ces fonctions ». « Le partage de ce type de contenus, déjà illégal, est du cyberharcèlement », a-t-il souligné, apportant son soutien à une doctorante victime, « Marie Coquille-Chambel, et à toutes les autres ».
« Des failles dans les dispositifs de sécurité »
Par ailleurs, xAI, l’entreprise qui édite Grok, fait savoir vendredi que des failles de sécurité ont conduit à la génération d’images sexualisées de mineurs sur X en réponse à la demande d’utilisateurs, violant ainsi sa propre politique d’utilisation qui interdit la sexualisation des enfants. Les images incriminées ont été retirées, a-t-elle ajouté.
« Nous avons identifié des failles dans les dispositifs de sécurité et nous les corrigeons de toute urgence », a fait savoir xAI vendredi, ajoutant que les documents relatifs à la pédopornographie sont « illégaux et interdits », rapporte l’agence Bloomberg.
L’Internet Watch Foundation, une organisation à but non lucratif qui identifie les contenus pédopornographiques en ligne, a signalé une augmentation de 400 % de ces images générées par l’IA au cours du premier semestre 2025.
Grok, considéré comme plus permissif que les autres modèles d’IA grand public, a introduit l’été dernier une fonctionnalité appelée « Mode épicé », autorisant la nudité partielle d’adultes et les contenus à caractère sexuel. Le service interdit − en théorie − la pornographie mettant en scène des personnes réelles et les contenus sexuels impliquant des mineurs, dont la création et la diffusion sont illégales.
