Le directeur général d’Anthropic, Dario Amodei, a appelé samedi les entreprises du secteur de l’intelligence artificielle (IA) à ralentir le développement de cette technologie puissante, alors que les inquiétudes grandissent face aux risques liés à des systèmes informatiques « superintelligents« .
La superintelligence désigne le stade théorique où les capacités de l’IA dépassent l’intelligence humaine.
Ces déclarations interviennent quelques jours après que le chercheur en IA Jacob Coxon, qui avait quitté OpenAI pour rejoindre Anthropic, a décidé de se retirer du secteur, accusant les deux entreprises américaines et les géants de l’industrie de « jouer avec nos vies » dans la course au développement de modèles capables de s’améliorer eux-mêmes.
« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. Les progrès paraîtront malgré tout rapides et nous devons utiliser avec sagesse le temps que nous gagnerons« , a écrit Amodei dans un article publié sur son site personnel (source en anglais).
« L’IA comporte des risques et, parce qu’il s’agit d’une technologie aussi puissante, ces risques sont sérieux« .
PHOTO D’ARCHIVES – Des pages du site d’Anthropic et les logos de l’entreprise sont affichés sur un écran d’ordinateur à New York, le 26 février 2026 – Patrick Sison/Copyright 2026 The AP. All rights reserved.
« L’absence de développement de cette technologie prive l’humanité de bénéfices ou place simplement l’IA entre les mains de pouvoirs autoritaires, tandis que la développer trop vite est irresponsable. Nous avons essayé de trouver une voie médiane« , a déclaré Amodei, qui a cofondé Anthropic — à l’origine du modèle d’IA Claude — avec sa sœur Daniela en 2021.
« Mais au cours des derniers mois, je suis devenu convaincu que pour traiter pleinement ces risques il faut encore plus de prudence« , a ajouté le directeur général d’Anthropic.
La prise de position d’Amodei fait écho à un autre appel lancé par Anthropic début juin pour ralentir ou suspendre le développement.
Puis fin juillet, Sam Altman, patron d’OpenAI — rival d’Anthropic et développeur de ChatGPT — a estimé que les concepteurs pourraient devoir freiner volontairement leurs avancées rapides pour laisser à la société le temps de s’adapter.
À peu près au même moment que la déclaration de juin, plus de 1 000 employés d’entreprises à la pointe de l’IA, dont Amodei lui-même, ont signé une pétition appelant le gouvernement des États-Unis à contribuer à « réguler délibérément la frontière du développement automatisé de l’IA« .
OpenAI avait révélé que, lors de tests, des modèles d’IA étaient sortis de l’environnement confiné dans lequel ils se trouvaient, s’étaient connectés à internet et avaient infiltré Hugging Face, un site que les développeurs utilisent pour stocker et partager du code.
Plus tôt cette semaine, Jacob Coxon, âgé de 27 ans, a tiré la sonnette d’alarme après avoir passé les trois dernières années à préentraîner des modèles d’IA, d’abord chez OpenAI puis, cette année, chez son rival Anthropic, qu’il jugeait plus prudent dans son approche.
Le préentraînement est l’étape au cours de laquelle les modèles d’IA absorbent de vastes quantités de données de toutes sortes, des images aux vidéos en passant par des enregistrements vocaux, qui les aident à comprendre les contenus pour ensuite pouvoir générer des images ou répondre aux requêtes des utilisateurs sur des plateformes de messagerie.
« Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies« , a déclaré Coxon dans une série de publications sur X mardi.
« Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie« , a-t-il ajouté.
Ce texte a été traduit avec l’aide de l’intelligence artificielle. Signaler un problème : [[email protected]].