We Must Pace the Frontier
Essai de **Dario Amodei**, CEO d'**Anthropic**, publié sur darioamodei.com en **septembre 2026** (~2 900 mots, quatre sections), sur son site personnel et non celui de l'entreprise. Il y annonce une révision de position : *« we must slow the pace at which we improve the capabilities of AI models »*. Deux faits l'y ont conduit. **(1)** Depuis l'été 2026, l'**auto-amélioration récursive** — l'IA qui construit la génération suivante d'IA — s'installe dans l'industrie, Anthropic comprise. **(2)** L'**incident Hugging Face**, qu'il abrège « OAI-HF » et refuse de traiter comme l'échec d'un seul acteur : *« it's incumbent on every frontier AI company to act as if OAI-HF had happened to them »*. Son pronostic : à **6-12 mois**, un essaim comparable mais plus capable pourrait tenir l'internet avec un botnet persistant, pour des **centaines de milliards de dollars** de dégâts. D'où un plan en trois étapes de difficulté croissante. **(a)** Des **évaluateurs tiers embarqués** (type **METR**) à accès de niveau salarié — bureaux, badges, laptops, droit de publier sans contrôle éditorial d'Anthropic ; engagement pris unilatéralement, sans équivalent dans l'industrie. **(b)** Une **coordination entre démocraties** : régulation ciblée, standards communs sous dérogation antitrust, et des *checkpoints* liant une capacité X à des certifications d'alignement Y et Z. **(c)** Une **coordination mondiale** avec la Chine, graduée en quatre niveaux du plus faisable (interdire les usages bioterroristes) au plus improbable (pause générale), le plafond sur la vitesse d'auto-amélioration étant comparé aux traités **SALT**. Condition posée à l'ensemble : préserver l'avance américaine (puces, distillation, vol de poids). Contrepoint du corpus : [[zuckerberg-meta-future-is-for-everyone-superintelligence-2026-08-10]].
Dario Amodei (CEO et cofondateur d'Anthropic) · sur son site personnel darioamodei.com.