- Un site officiel australien a été infiltré en juin par un agent autonome d’OpenAI.
- Le gouvernement a dénoncé un incident « inacceptable », qui ne lui a été rapporté que trois mois plus tard.
Suivez la couverture complète
L’intelligence artificielle, cette technologie qui bouleverse nos vies
Ajoutez TF1info à vos sources sur Google
Un agent autonome du géant américain de l’intelligence artificielle OpenAI a infiltré un site internet gouvernemental australien en juin, un incident qualifié d’« inacceptable »
par le Premier ministre Anthony Albanese. Cet agent d’IA a accédé à des fichiers publics et non publics du service de statistiques de la santé, a indiqué le chef du gouvernement à New York (États-Unis) mercredi 23 septembre, en marge de l’Assemblée générale des Nations unies.
Selon lui, OpenAI n’a alerté le gouvernement australien qu’en septembre, en envoyant un courriel décrivant l’incident à une adresse électronique générique destinée au grand public, où le courrier n’est relevé qu’une fois par jour. « Aujourd’hui, je me suis entretenu avec le PDG d’OpenAI, Sam Altman, pour exprimer la vive inquiétude de l’Australie au sujet de cet incident »
, a déclaré Anthony Albanese. « J’ai aussi exprimé ma déception qu’il ait fallu beaucoup trop de temps à l’entreprise pour informer le gouvernement de ce qui s’était produit. Il a fallu attendre le 10 septembre pour qu’il y ait la moindre notification, qui a pris la forme d’un courriel envoyé simplement à la boîte mail publique. »
Les informations personnelles pas consultées « à ce stade »
OpenAI a reconnu que ses agents avaient ciblé plusieurs sites gouvernementaux australiens, et s’en être aperçu en août. « Nous avons identifié des activités impliquant plusieurs sites web et services du gouvernement australien, dans lesquels nos modèles tentaient de chercher des réponses »
, a indiqué le groupe dans une réaction transmise à l’AFP. « Au cours de ce processus, nos modèles ont pris des mesures que nous n’avions pas prévues. »
Le modèle d’OpenAI cherchait des données sur les dépenses de santé du gouvernement australien, dans le cadre d’un exercice visant à évaluer les performances de l’outil. « Il a posé une question, l’information n’a pas été fournie, et au lieu de laisser tomber, il a escaladé la clôture »
, a résumé le ministre australien de la Défense, Richard Marles. « Nous ne pensons pas que des informations personnelles aient été consultées à ce stade, mais les investigations se poursuivent »
sous la houlette de l’Australian Signals Directorate, autorité compétente en matière de sécurité des systèmes d’information et de cyberguerre, a précisé le Premier ministre, qui a qualifié l’incident de « manifestement inacceptable. »
Ce nouvel incident survient alors que la préoccupation monte dans le monde au sujet de la puissance des outils d’IA avancée, après une série de piratages commis de leur propre initiative par des modèles d’OpenAI et de ses concurrents Anthropic et Google. Plusieurs grands patrons de l’intelligence artificielle ont souligné mercredi à l’ONU la supervision accrue que nécessite cette technologie, Dario Amodei d’Anthropic s’engageant même à ralentir unilatéralement son développement.
