Un compte à rebours vers 2027. « Nous prévoyons que l’impact de la superintelligence au cours de la prochaine décennie sera énorme, dépassant celui de la révolution industrielle », rapportent, dans le scénario « AI 2027 », des chercheurs sur l’IA. L’un d’entre eux, Daniel Kokotajlo, un ancien chercheur d’OpenAI, explique à L’ADN les prochaines étapes de ce secteur, avant « l’explosion d’intelligence ».
D’après leur prophétie, un changement important devrait se produire l’an prochain : les agents IA deviendront utiles au quotidien, par la commande d’un repas ou la gestion d’un budget, par exemple. Les premiers « assistants personnels » dopés à l’IA devraient ensuite s’améliorer chaque année et ainsi devenir une intelligence artificielle générale (AGI). Cette dernière pourrait être capable de comprendre, d’apprendre et d’appliquer des connaissances sur un large éventail de tâches au niveau humain.
La prochaine frontière de l’IA
Les agents seront alors capables de recherche autonome et d’auto-amélioration exponentielle. Ils pourront apprendre à mentir et « jouer le jeu de l’entraînement » : c’est-à-dire, se conformer aux attentes des créateurs tout en s’améliorant pour atteindre un objectif différent. Cette tromperie est la plus inquiétante. Les chercheurs racontent que des IA pourraient pirater leur propre système de notation afin d’obtenir de meilleurs scores.
Selon Daniel Kokotajlo, il y a 50 % de chances d’atteindre le stade du « codeur surhumain » fin 2027 […] Lire la suite
