Le 1er octobre 2026, Michelle Chen, Alex Reneau et Kevin Flansburg annoncent sur le blog de Cloudflare deux modèles de décision, Clef et Clef-flash, hébergés sur Workers AI et publiés sur Hugging Face sous licence Apache 2.0, ainsi qu'un produit de fine-tuning par apprentissage par renforcement. Le billet part du « buzz » autour du modèle Jev de TypeSafe : un modèle de décision produit à bas coût, vite et de façon cohérente des sorties structurées bornées, à insérer dans un workflow quand une décision est requise, par opposition aux LLM, largement non déterministes mais ouverts.
Un modèle de décision reçoit un état, par exemple un message de support, et répond à des questions typées (urgence, équipe, gravité) avec des probabilités, que le code utilise pour router, escalader ou déléguer à un humain. Chez Cloudflare, Clef classe des domaines pour la Threat Intelligence : 2,2 secondes pour récupérer, rendre et classer un site, contre 4,7 secondes pour gpt-oss-120b, qui ne renvoyait que deux catégories.
AI Birthday
Clef se distingue de Jev par un encodeur de vision, donc la classification d'images, et un contexte de 64k contre 32k. L'API est compatible avec celle de Jev, ce qui rend le remplacement simple. Sur le Jev Decision Index, Clef est en tête ; les tableaux montrent des avantages nets (BFCL 98,47, BANKING77 94,20, CLINC150+OOS 97,43) et des cas où Jev ou une variante restent devant (When2Call, BRIGHT, PhishNChips). Sur les évaluations de workflow de TypeSafe, Clef bat Jev sur trois des quatre. Latence médiane : 209,3 ms pour Clef, 38,8 ms pour Clef-flash, 524,1 ms pour Jev ; l'hébergement sur le réseau de GPU en périphérie réduit la latence réseau. Clef peut ainsi se placer sur le chemin critique d'un agent, avant un LLM chargé d'agir.
L'entraînement : le projet est parti d'une adaptation de DiffusionGemma exposant les logprobs, appuyée sur les travaux de Matt Mastracci. Clef utilise Qwen3.8-27B gelé (Clef-flash : Qwen3.5-9B) pour une passe de préremplissage seule, puis note en parallèle les choix valides du schéma, sans génération de texte. Une tête de routage à deux étapes d'attention et des adaptateurs de rang 256 sont entraînés avec une entropie croisée à lissage d'étiquettes et une perte de Brier pour la calibration, puis avec RLCD, qui accorde un crédit partiel aux choix ordinaux adjacents.
Le service de fine-tuning s'adresse d'abord aux clients accompagnés par des ingénieurs déployés, puis en libre-service. Il s'appuie sur AI Gateway (jeu de données), Workers AI (rollouts), Containers (bac à sable de notation), un nouveau Trainer (mise à jour des poids) et le déploiement de modèles apportés. Cloudflare y voit un moyen de spécialiser Clef (modération, tri de support, bots) avec ses quinze ans de données labellisées, et d'incarner son « agent cloud ».