Les garde-fous semblent insuffisants et des failles ont permis ces montages de clichés ultra sexualisés bien sûr totalement illégaux. Et c’est Grok lui-même qui l’exprime, raconte notre correspondant à Washington, Vincent Souriau. Répondant à un utilisateur après plusieurs jours de signalements sur la plateforme, le robot créé par la société d’Elon Musk admet qu’à la demande de certains internautes, il a détourné des images pour créer des contenus à caractère pédopornographique et signalé qu’une entreprise aux États-Unis « encourt des poursuites civiles ou pénales si elle facilite en connaissance de cause ou échoue à prévenir la génération » de contenus pédopornographiques.
Colère du gouvernement indien
Sur plusieurs clichés d’enfants et d’adolescents, l’intelligence artificielle a par exemple remplacé leurs vêtements par des bikinis. Sans considération pour l’âge ou l’apparence des individus concernés. Un responsable technique de xAI assure que l’entreprise travaille à renforcer ses contrôles. Il y a urgence. Car ces pratiques ont notamment provoqué la colère du gouvernement indien.
Celui-ci a donné 72h à Grok pour rectifier le tir. Sans mesures prises d’ici lundi 5 janvier pour restreindre la dissémination de contenus obscènes, pornographiques, vulgaires, indécents, pédophiles ou sexuellement explicites, l’Inde menace le groupe d’Elon Musk de poursuites pénales. Outre les mineurs, les failles de ce robot ont aussi concerné des femmes majeures qui ont vu leurs photos publiées sur les réseaux sociaux être retouchées par Grok pour les déshabiller, à la demande d’internautes.
Élargissement de l’enquête sur X en France
En France, le parquet de Paris a étendu, vendredi 2 janvier, une enquête ouverte depuis l’été sur le réseau social X, afin d’examiner les nouvelles accusations contre Grok de génération et diffusion de contenus pédopornographiques. Peu avant, signale l’AFP, trois ministres et deux députés avaient annoncé saisir la justice contre ces générations et ces diffusions de fausses vidéos à caractère sexuel. L’Arcom, l’autorité de régulation de la communication audiovisuelle et du numérique en France, a aussi été saisie, « au titre de possibles manquements de X à ses obligations découlant du Digital Services Act », le règlement européen sur les services numériques.
À lire aussiQuand Grok, l’IA d’Elon Musk, sème le doute sur la réalité des manifestations anti-Trump
