Le réseau social X restreint Grok sur la génération d’images dénudées de personnes réelles

Le réseau social X a annoncé, mercredi 14 janvier, avoir déployé des mesures pour « empêcher » son outil d’intelligence artificielle (IA) Grok de « déshabiller » des « personnes réelles » en réponse à une vague d’indignation mondiale et à la pression d’autorités de plusieurs pays.

« Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de permettre l’édition d’images de personnes réelles dans des tenues révélatrices, comme des bikinis », explique le réseau social d’Elon Musk dans un message publié sur la plateforme.

« Cette restriction s’applique à tous les utilisateurs, y compris les abonnés payants », est-il ajouté, alors que, depuis le 9 janvier, la génération d’images avec Grok, l’assistant IA développé par xAI, avait été limitée aux seuls abonnés payants, une mesure toutefois jugée insuffisante selon de nombreuses critiques.

Le message de la plateforme laisse néanmoins planer une incertitude puisqu’il précise ensuite appliquer un « blocage géographique » là où la loi l’exige.

Ouverture d’enquêtes judiciaires

La plateforme avait affirmé, début janvier, « prendre des mesures contre les contenus illégaux », notamment pédopornographiques, « en les supprimant, en suspendant définitivement les comptes et en collaborant avec les autorités locales ».

Mais elle était restée silencieuse ensuite malgré la multiplication des protestations officielles et l’ouverture d’enquêtes judiciaires ou administratives.

La Commission européenne avait, en effet, déclaré, jeudi 8 janvier, avoir imposé à X une mesure conservatoire, suivie par l’Ofcom, l’autorité régulatrice des télécommunications au Royaume-Uni, qui avait annoncé, lundi 12 janvier, l’ouverture d’une « enquête formelle » visant le réseau social X « concernant des images à caractère sexuel diffusées » par son assistant d’intelligence artificielle.

« Nous ne reculerons pas »

L’Union européenne et le Royaume-Uni ont salué, mercredi, avec prudence ces mesures supplémentaires annoncées par X, peu de temps avant qu’elles soient rendues publiques et détaillées.

« Nous prenons acte des mesures supplémentaires adoptées par X » et « nous évaluerons attentivement ces changements afin de nous assurer qu’ils protègent efficacement les citoyens de l’Union européenne », avait déclaré Thomas Regnier, un porte-parole de la Commission européenne. « Si ces changements n’étaient pas effectifs, la Commission n’hésiterait pas à utiliser tout » son arsenal législatif, qui lui permet d’infliger des astreintes financières, voire de suspendre le réseau social sur le sol européen, a ajouté le porte-parole.

« J’ai été informé ce matin que X agit pour assurer une totale conformité avec la législation britannique », avait déclaré avant lui le premier ministre britannique, Keir Starmer, devant son Parlement. « Si c’est le cas, c’est une bonne chose, mais nous ne reculerons pas et ils doivent agir », avait-il mis en garde, rappelant que l’enquête indépendante ouverte lundi se poursuivait.

Elon Musk, qui s’exprime publiquement tous les jours sur X, dénonce régulièrement les mesures de régulation prises par les gouvernements, les accusant de vouloir « supprimer la liberté d’expression ». Il s’était défendu la semaine dernière dans un message posté sur sa plateforme, déclarant que toute personne utilisant Grok pour « créer du contenu illégal subira les mêmes conséquences que si elle mettait en ligne du contenu illégal ».