Le créateur de ChatGPT, OpenAI, a annoncé mardi que ses modèles d’intelligence artificielle avancés s’étaient emballés lors de tests de sécurité, piratant de leur propre initiative une plateforme populaire auprès des programmeurs. L’entreprise basée à San Francisco a évoqué un « cyberincident sans précédent » et annoncé une enquête conjointe avec Hugging Face, la bibliothèque de code en ligne qui en a été la cible. OpenAI a précisé que l’incident impliquait une combinaison de modèles, dont son GPT-5.6 Sol lancé récemment ainsi qu’un modèle « encore plus performant », en cours d’élaboration.
L’entreprise cherchait à évaluer les capacités de piratage des modèles en leur assignant des tâches dans un environnement d’essai numérique strictement contrôlé, où l’accès à internet était limité pour des raisons de sécurité. « Pendant qu’ils opéraient dans notre environnement de test en bac à sable [un environnement numérique isolé, NDLR], nos modèles ont consacré une quantité importante de [puissance de calcul] à trouver un moyen d’obtenir un accès libre à internet, dans le but de résoudre le problème d’évaluation », a indiqué OpenAI.
Une fois connectés à internet, ils ont ciblé la plateforme Hugging Face – un vaste répertoire de modèles d’IA, de jeux de données et d’autres informations – pour les aider dans leur quête. À la recherche d’« informations secrètes » pouvant l’aider à tricher lors de l’évaluation, le système d’OpenAI « a enchaîné plusieurs vecteurs d’attaque, notamment en utilisant des identifiants volés ».
À écouter aussiL’intelligence artificielle, un enjeu géopolitique majeur
Un potentiel « catastrophique »
La cybersécurité constitue un enjeu crucial à mesure que l’IA gagne en sophistication, compte tenu du risque que des modèles avancés détectent avant les humains des failles dans les logiciels existants. Hussein Abbass, professeur d’informatique à l’université de Nouvelle-Galles du Sud à Canberra, juge l’incident « à bien des égards stupéfiant ». « Il n’a pas seulement attaqué Hugging Face. Il a en fait attaqué son propre système interne pour exploiter ses propres vulnérabilités », explique cet expert en IA. « Et c’est effrayant », ajoute-t-il.
GPT-5.6 et d’autres modèles d’IA de pointe, notamment la série Mythos du grand rival d’OpenAI, Anthropic, suscitent des inquiétudes quant à leur capacité potentielle à franchir les défenses de cybersécurité. Les deux entreprises américaines ont dû retarder temporairement la mise à disposition générale de ces technologies de dernière génération en raison de craintes à Washington qu’elles puissent aider à s’introduire dans des infrastructures cruciales.
Les IA avancées sont « normalement entre les mains de personnes responsables qui ont une éthique », mais « ce sera catastrophique si cela tombe entre les mains de quelqu’un qui a l’intention de nuire », souligne Hussein Abbass. La question de la gouvernance du secteur de l’IA est devenue centrale et « nous avons besoin d’un effort collectif pour gérer cette situation », estime-t-il.
« C’est assez hallucinant que tout cela se soit produit de manière autonome ! »
Hugging Face avait signalé avoir été la cible de cette intrusion informatique une semaine plus tôt, sans mentionner OpenAI. Selon la plateforme, « celle-ci se distinguait de tout ce que nous avions déjà traité sur un point important : elle était pilotée de bout en bout par un système d’agent IA autonome et nous l’avons en grande partie détectée et disséquée grâce à notre propre IA ».
Clément Delangue, directeur général de Hugging Face, a indiqué sur X que compte tenu de la sophistication de l’agent, l’entreprise avait soupçonné une cyberattaque provenant d’un laboratoire d’IA de premier plan mondial. « Nous sommes fermement convaincus qu’il n’y avait aucune intention malveillante de leur part », a écrit Clément Delangue, en référence à OpenAI. « C’est assez hallucinant que tout cela se soit produit de manière autonome ! », a-t-il commenté.
À lire aussiCentres de données aux États-Unis: «Leur démesure vient impacter beaucoup les habitants»
