auto-amélioration récursive

Dario Amodei date l'auto-amélioration récursive : depuis l'été 2026, l'IA construit la génération suivante d'IA, dans l'ensemble de l'industrie de pointe comme chez Anthropic. Dans son essai de septembre 2026 intitulé « We Must Pace the Frontier », c'est l'une des deux observations qui l'ont conduit à réviser sa position et à plaider pour un ralentissement du rythme des progrès de capacité. Le risque qu'il énonce est une course entre deux courbes : un système qui oriente sa puissance de calcul vers sa propre amélioration, face à la capacité des humains à comprendre et à maîtriser ce qui en résulte.

Mark Zuckerberg traite cette même capacité comme un dilemme concurrentiel qu'aucun laboratoire ne peut se permettre d'écarter, puisqu'un laboratoire de pointe qui ne consacre pas une part substantielle de sa puissance de calcul à l'auto-amélioration prend intrinsèquement du retard. Le garde-fou qu'il propose est qu'une « majorité significative » de la puissance de calcul reste dirigée par des humains. La formule ne donne aucun chiffre, ne nomme aucun organe de vérification et n'attache aucune sanction.

Chez Amodei, le frein prend une forme institutionnelle. Sur son échelle à quatre niveaux de coordination avec la Chine, entre un organisme international de test et une pause générale pure et simple, se trouve un plafond de vitesse sur l'auto-amélioration, qu'il compare aux traités SALT.

Eric Schmidt, interrogé par Nicolai Tangen le 21 octobre 2026, situe la découverte dans ce que l'IA ne sait toujours pas faire : un modèle nourri des mathématiques de 1902 ne retrouve pas la relativité générale. Il situe l'AGI à cinq à dix ans. La capacité à laquelle on attribue le déverrouillage de la découverte est celle qu'Amodei veut voir ralentie.