auto-amélioration récursive

Dario Amodei fissa una data per l'auto-amélioration récursive: dall'estate del 2026, l'IA costruisce la generazione successiva di IA, nell'industria di frontiera nel suo complesso e all'interno di Anthropic. Nel suo saggio del settembre 2026 "We Must Pace the Frontier", questa è una delle due osservazioni che lo hanno portato a rivedere la propria posizione e a sostenere un rallentamento del ritmo di miglioramento delle capacità. Il rischio indicato è una corsa tra due curve: un sistema che indirizza potenza di calcolo verso il proprio miglioramento, contro la capacità delle persone di capire e controllare ciò che ne risulta.

Mark Zuckerberg considera la stessa capacità un dilemma competitivo che nessun laboratorio può permettersi di ignorare, poiché un laboratorio di frontiera che non destina una quota sostanziale della propria potenza di calcolo all'auto-miglioramento resta intrinsecamente indietro. La sua proposta di salvaguardia è che una "significant majority" della potenza di calcolo resti sotto il controllo delle persone. La formula non riporta alcuna cifra, non indica alcun verificatore e non prevede alcuna sanzione.

La versione del freno proposta da Amodei è di natura istituzionale. Nella sua scala a quattro livelli di coordinamento con la Cina, tra un organismo internazionale di verifica e una pausa generale totale, si colloca un tetto di velocità per l'auto-miglioramento, paragonabile ai trattati SALT.

Eric Schmidt, intervistato da Nicolai Tangen il 21 ottobre 2026, individua nella scoperta ciò che l'IA ancora non sa fare: un modello alimentato con la matematica del 1902 non arriva a ricostruire la relatività generale. Colloca l'AGI a una distanza di cinque a dieci anni. La capacità a cui si attribuisce la possibilità di sbloccare la scoperta è la stessa che Amodei vuole rallentare.