root / tags / exploitgym
3 fiches
Billet d'**Ethan Mollick** publié le **31 août 2026** sur *One Useful Thing* (~2 200 mots). Il part d'un incident de sécurité pour poser une question d'organisation : quand une IA devrait-elle demander de l'aide à un humain ?
Ethan Mollick — professeur à la Wharton School (University of Pennsylvania) · auteur du blog *One Useful Thing* sur Substack.
Billet d'annonce publié sur le **blog officiel de Z.ai** (ex-Zhipu AI, laboratoire chinois) le **14 août 2026**, **sans signature individuelle**, ~2 000 mots plus notes de bas de page. Il annonce **GLM-5.3**, successeur de GLM-5.2, avec une thèse méthodologique en tête d'article : *« Scaling post-training is all we did for GLM-5.3. »* Même modèle de base que GLM-5.2 — *« every gain comes from post-training »*. Trois annonces. **(A) Un modèle de codage à poids ouverts** : +50 % revendiqués sur **Z.ai Code Bench**, benchmark maison non publié. **(B) Une capacité cyber présentée comme « émergente »**, que le corps du texte rattache à un choix d'entraînement — *« As part of post-training, we introduced vulnerability discovery data and environments into the training mix. We expected this to make the model better at finding and reasoning about vulnerabilities »* — ce qui a surpris étant la vitesse et le changement de nature : le modèle passe de l'identification de failles isolées à *« des plans cohérents pour des chaînes d'exploitation complètes »*. Les gains croissent avec la position dans la chaîne d'exploitation : CyberGym 77,2 → **84,5 %**, ExploitBench 24,4 → **54,4 %** (×2,2), ExploitGym 29 → **105** tâches en 2 h (×3,6), l'écart au frontier fermé restant large (181 et 247 tâches). Z.ai le formule ainsi : *« Capability is growing fastest exactly where we are furthest behind. »* Le billet publie également un **Z.ai Security Disclosure Ledger** : **2 436 vulnérabilités identifiées dans 269 projets open source** — noyaux, OS, moteurs de navigateur, infrastructure, applications web, protocoles réseau —, la plus ancienne introduite en **1981**, durée de vie moyenne avant découverte **26,6 ans**, dont **53 divulguées** et **2 383 sous embargo**. **(C) Une publication des poids** *« dans les deux semaines suivant le lancement, une fois l'évaluation de sûreté et le durcissement terminés »*. Contribution méthodologique la plus réutilisable : la **synthèse d'environnements et de vérificateurs**, ces derniers produits sans accès à la solution de référence et admis seulement après un triptyque de contrôles négatifs — **oracle**, **no-op**, **unsolved-state**. Toutes les évaluations agentiques sont conduites **dans Claude Code 2.1.207**.
**Z.ai** (anciennement **Zhipu AI**) · laboratoire d'IA chinois · éditeur de la famille **GLM**. Billet **institutionnel et non signé** : aucun auteur nommé · aucun chercheur mis en avant · aucun lien vers un rapport technique ou une carte de modèle. Publié le **14 août 2026**. La page est une SPA React — le HTML servi est un `<div id="root">` vide · et le texte comme les scores ont dû être extraits du bundle `glm-5.3-BCnx8T5_.js` · où ils figurent en valeurs source.
**Rapport de recherche interne SFEIR** (document de préparation éditoriale, deep research sourcé — ~70 références) sur l'**AI Kill Switch Act** américain, cadré côté **souveraineté européenne** et **« so what » pour les entreprises**. C'est la **base factuelle** d'un futur article de blog — il expose où la thèse « barrière très basse » **tient** et où elle doit être **nuancée**. **Apport majeur vs la couverture presse** (dont [[arstechnica-ai-kill-switch-act-2026-07-23]]) : (1) lecture **du texte de loi lui-même** (nouvelle **section 2220F** « Shutdown-Capability Standard and Graduated Deployment-Corrections Framework », déposé le 23 juil. 2026, 119e Congrès) — autorité au **secrétaire DHS via la CISA** (le « Director »), en consultation Commerce + DNI ; (2) **deux seuils CUMULATIFS** — ≥ **500 M$** de revenu IA (avec affiliés) **ET** compute d'entraînement > **100 M$** — donc **peu de labs couverts aujourd'hui**, ce qui **contredit au sens strict** la thèse « barrière basse » ; (3) mais **portée réelle très large** par la **mécanique d'élargissement** (mise à jour annuelle des seuils par le DHS, clause « affiliés », indexation compute au prix cloud, croissance des revenus) et surtout par l'**effet domino** sur les clients ; (4) **sanctions graduées** : jusqu'à **2 M$/jour** (violation générale), **20 M$/jour** (violation de l'autorité d'urgence) ; (5) **nuance capitale** : l'incident **OpenAI/Hugging Face** ayant eu lieu en **red-teaming/évaluation interne**, il **ne déclencherait PAS** l'autorité d'urgence en l'état (le texte exclut le red-teaming). L'axe **souveraineté** s'appuie sur le **précédent Anthropic** (Fable 5 / Mythos 5 coupés **19 jours** en juin 2026) comme **preuve opérationnelle** d'un « kill switch de fait », et débouche sur des **recommandations CTO** (architecture multi-modèles testée, clauses de continuité, cartographie d'exposition, options souveraines).
**SFEIR** (recherche interne / deep research). Document non signé nominativement — préparation éditoriale pour le blog SFEIR · dans la ligne souveraineté/adoption du cabinet (cf. [[sfeir-mistral-microsoft-souverainete-strategie-industrielle-2026-07-22]]). Base factuelle équilibrée (arguments **et** contre-arguments) · références numérotées.