Il 1° ottobre 2026, Michelle Chen, Alex Reneau e Kevin Flansburg annunciano sul blog di Cloudflare due modelli decisionali, Clef e Clef-flash, ospitati su Workers AI e pubblicati su Hugging Face con licenza Apache 2.0, insieme a un prodotto di fine-tuning per reinforcement learning. Il post si apre a partire dal "clamore" attorno al modello Jev di TypeSafe: un modello decisionale prodotto in modo economico, rapido e che restituisce in modo coerente output strutturati e delimitati, pensato per essere inserito in un workflow quando è richiesta una decisione, in contrapposizione agli LLM, che restano in gran parte non deterministici e aperti.
Un modello decisionale riceve uno stato, ad esempio un messaggio di supporto, e risponde a domande tipizzate (urgenza, team, gravità) con delle probabilità, che il codice utilizza per instradare, escalare o passare la mano a un umano. In Cloudflare, Clef classifica i domini per il Threat Intelligence: 2,2 secondi per recuperare, renderizzare e classificare un sito, contro 4,7 secondi per gpt-oss-120b, che restituiva solo due categorie.
Clef si differenzia da Jev per un vision encoder, da cui la classificazione delle immagini, e per un contesto di 64k contro 32k. L'API è compatibile con quella di Jev, il che rende la sostituzione immediata. Sul Jev Decision Index, Clef è in testa; le tabelle mostrano vantaggi netti (BFCL 98,47, BANKING77 94,20, CLINC150+OOS 97,43) e casi in cui Jev o una sua variante restano in vantaggio (When2Call, BRIGHT, PhishNChips). Sulle valutazioni di workflow di TypeSafe, Clef batte Jev in tre casi su quattro. Latenza mediana: 209,3 ms per Clef, 38,8 ms per Clef-flash, 524,1 ms per Jev; l'hosting sulla rete GPU edge riduce la latenza di rete. Clef può quindi collocarsi sul percorso critico di un agente, a monte di un LLM incaricato di agire.
Addestramento: il progetto è partito da un adattamento di DiffusionGemma che espone i logprobs, basandosi sul lavoro di Matt Mastracci. Clef utilizza un Qwen3.8-27B congelato (Clef-flash: Qwen3.5-9B) per un passaggio solo in prefill, poi assegna un punteggio alle scelte valide dello schema in parallelo, senza generazione di testo. Una testa di routing dell'attenzione a due stadi e degli adapter di rango 256 vengono addestrati con una cross-entropy label-smoothing e una loss di Brier per la calibrazione, poi con RLCD, che assegna un credito parziale alle scelte ordinali adiacenti.
Il servizio di fine-tuning si rivolge inizialmente ai clienti seguiti da forward-deployed engineer, con una versione self-service in arrivo. Si basa su AI Gateway (dataset), Workers AI (rollout), Containers (sandbox di scoring), un nuovo Trainer (aggiornamento dei pesi), e il deployment di modelli portati dal cliente. Cloudflare vede in questo un modo per specializzare Clef (moderazione, triage del supporto, bot) sfruttando i suoi quindici anni di dati etichettati, e per incarnare il proprio "cloud agent".