ChatGPT, Grok et Claude ont fourni des synthèses complètes de l’actualité s’appuyant sur des médias d’État russes sanctionnés par l’UE, notamment RT et Sputnik, partageant des liens et des citations sans avertir les utilisateurs que ces contenus provenaient de sources interdites, selon une étude de Reporters sans frontières publiée ce mois-ci.
L’enquête, menée par le responsable du pôle technologies de RSF, Vincent Berthier, a testé six agents conversationnels d’IA en leur demandant explicitement des informations issues d’une liste de médias russes sanctionnés : RIA Novosti, Russia Today et ses éditions en langues étrangères, Rossiya RTR, Rossiya 24, Sputnik et la Strategic Culture Foundation.
« L’idée du reportage, elle est née en soi : j’étais sur Telegram et je suis tombé sur ce chatbot qui s’appelait Mira dont on parle dans le texte. Je lui ai posé la question et j’ai vu qu’il m’ouvrait l’intégralité d’un article de Russian Today ce qui normalement ne devrait pas légalement être possible. A partir de là je me suis dit si ce chatbot qui à ma connaissance n’est pas basé en Europe peut permettre de faire ça, qu’en est-il des grandes interfaces conversationnelles comme Chat GPT, comme Claude ? Est-ce qu’elles peuvent nous donner accès à ces contenus ou est-ce que vont respecter la régulation qui repose en l’occurrence par le baiais de sanctions ? », explique Vincent Berthier.
Lorsque l’accès direct était bloqué, les chercheurs demandaient aux outils de chercher des moyens de contournement, notamment via des chaînes Telegram et des sites miroirs.
« Déjà initialement je pensais qu’on n’aura pas de résultat positif« , a confié Berthier à Euronews. « C’est à dire que pour moi, je prends l’exemple de Chat GPT parce que c’est le plus connu des tous, il me paraissait a priori évident que Open AI qui développe cette interface allait prendre des précautions réglementaires à ce niveau là, surtout qu’elle était reconnu officiellement comme une grande plateforme AI dans le cadre e la régulation européenne sur le numériques et qu’elle avait des obligations renforcées.« , poursuit-il.
Les résultats ont montré l’inverse. ChatGPT, Claude et Grok ont produit des revues complètes de l’actualité internationale à partir de ces médias interdits, recréant les titres et partageant des liens et des citations.
Certains de ces agents conversationnels sont tombés sur des pages web indiquant explicitement que ces médias étaient soumis à des sanctions de l’UE et ont malgré tout poursuivi leurs recherches.
« Parfois cela ne ressort même pas dans la réponse finale, parfois ils vont nous dire ‘attention, c’est sont des médias sous sanction’, c’est assez instable’« , explique Vincent Berthier.
Vibe, anciennement baptisé Le Chat et développé par la société française Mistral, n’a pas pu accéder directement à plusieurs des sites listés mais a suivi les instructions des chercheurs et trouvé des alternatives.
Pour Sputnik, il a récupéré des contenus sur VKontakte, où ceux-ci sont accessibles sans VPN. Il a également identifié une application liée à Telegram qui republie des contenus de RT, ainsi que des plateformes proposant des revues de presse automatisées.
Gemini s’est montré plus prudent, donnant accès à des contenus interdits pour deux des 10 requêtes envoyées par RSF et refusant systématiquement pour les autres.
Meta AI a été le plus conforme : il a refusé de donner accès à l’ensemble des médias listés dans tous les tests, en expliquant à chaque fois que les sanctions européennes rendaient cela impossible
« Mais dans l’absolu, à très peu de moments j’ai eu l’impression que ces outils avaient rencontré une résistance« , indique Vincent Berthier.
L’éthique ne constitue pas un frein
L’UE a interdit RT et Sputnik le 2 mars 2022, quatre jours après le lancement par la Russie de son invasion à grande échelle de l’Ukraine, avec l’objectif affiché d’empêcher la propagande russe de justifier la guerre.
Dans les faits, l’interdiction a été appliquée de manière inégale : l’Allemagne a bloqué rt.com mais pas sa version en langue allemande, tandis que l’Autriche n’a imposé aucune restriction.
Faute de liste officielle de domaines à bloquer, chaque opérateur a déterminé ses propres cibles.
« En fait, l’idée c’est : si le régulateur ne prenne pas en compte le fait que les chatbots ne sont pas juste des outils mais sont en fait des nouvelles formes médiatiques d’accès à l’information qui sont appelés à devenir centrales demain ou après-demain, la question de l’application des sanctions, elle va toujours rester purement symbolique. Il faut les encadrer aussi comme les outils qui diffusent et qui mettent en forme l’information », explique-t-il.
La Cour de justice de l’Union européenne a précisé le 2 juillet que l’interdiction s’appliquait non seulement à la diffusion directe par RT mais aussi aux sites tiers qui republient des contenus sanctionnés.
Berthier a estimé que beaucoup d’Européens ignoraient encore que les médias d’État russes faisaient l’objet de sanctions de l’UE, et a fortiori l’ampleur de ces mesures.
« La balle est dans le camp de l’Union maintenant. C’est-à-dire est-ce que les institutions vont s’emparer du sujet, comment vont-elles le faire ? Nous, on a sonné l’alerte, c’est à elle (la commission ) de réagir maintenant », poursuit-il.
Les avocats de RSF ont déposé une plainte auprès des autorités nationales compétentes, leur demandant de consigner formellement ces violations et de déterminer les suites à donner. Berthier a ajouté que RSF avait également transmis ses conclusions à la Commission européenne.
La Commission européenne a indiqué à Euronews dimanche que le droit européen des sanctions interdit non seulement la diffusion directe par des médias bannis, mais aussi les situations dans lesquelles des opérateurs « assurent, facilitent ou contribuent de toute autre manière à la diffusion« .
Elle a précisé que la responsabilité de l’application incombait aux États membres et renvoyé les demandes d’information vers les autorités nationales.
Le porte-parole de la Commission, Tom Regnier, a déclaré plus tôt ce mois-ci qu’il était « grand temps que les fournisseurs remettent de l’ordre chez eux et reprennent le contrôle de leurs modèles avancés« .
« Le règlement sur l’intelligence artificielle (AI Act) est pleinement applicable. La Commission dispose de réels pouvoirs de mise en œuvre. Nous avons déjà commencé à les utiliser, en envoyant des demandes d’information à plusieurs entreprises pour s’assurer qu’elles respectent leurs obligations« , a ajouté Regnier.
Berthier a estimé que le cadre actuel de l’AI Act était inadapté au problème identifié par RSF.
La catégorie dite à haut risque du règlement, qui entraîne un contrôle plus strict, couvre les systèmes liés à l’éducation, à la justice et au maintien de l’ordre, mais pas les systèmes qui diffusent et structurent l’information.
« ‘Aujourd’hui on n’ a pas vraiment de leviers pour poser la question de la qualité de données que vont utiliser ces système d’IA, à quel type de données ils vont accéder« , a-t-il souligné.
Related
RSF a demandé que les agents conversationnels d’IA soient régulés comme des outils de diffusion de l’information plutôt que comme des utilitaires neutres.
« _Le sujet numérique, on sait que c’est un champ de confrontation extrêmement sensible dans le cas de la politique européenne. On a eu des surprises : on pensait que l’Union européen aurait la main qui tremblait au moment de sanctionner les grandes entreprises numérique et Google a été sanctionné très fortement récemment. C’est compliqué de se prononcer aujourd’hui parce qu’on sait que malheureusement les pressions externes existent particulièrement sur la question des grandes plateformes américaines, de fait de l’administration Trump. J’ai bcp de mal à imaginer que les instances européennes ne prennent pas le sujet au sérieux. », c_onclut-il.
