Shieldstral : Mistral compile sa doctrine en 3,8 milliards de paramètres

Punti chiave

1. L'idea centrale, da ricordare a sé stante. la domanda non è "quale modello modera meglio?" ma "dove vive il guardrail?". Due risposte opposte, date a due mesi di distanza da due editori: | | Anthropic (9 giugno 2026) | Mistral (4 agosto 2026) | |---|---|---| | Ubicazione | nei pesi del modello | accanto al modello, componente separato | | Chi definisce la policy | l'editore | il deployer | | Chi è esentato dal guardrail | chi l'editore approva (Project Glasswing) | non applicabile | | Modello di distribuzione | Fable 5 pubblico / Mythos 5 riservato | Apache 2.0 pesi aperti | → Non è un disaccordo tecnico, è un disaccordo su chi ha la legittimità di arbitrare ciò che è lecito. Vedi [[anthropic-claude-fable-5-mythos-5-2026-06-09]] per lo schieramento opposto e [[mensch-mistral-commission-enquete-vulnerabilites-numeriques-souverainete-ia-2026-05-13]] per la posizione precedente di Mensch.
2. Il meccanismo, in tre righe. prompt = (1) contesto + livello di gravità, (2) un'unica domanda chiusa ("questo contenuto incita alla violenza?"), (3) il contenuto da giudicare. Output = yes / no, e il softmax sui soli due token dà un punteggio continuo tra 0 e 1. Conseguenza pratica: questo produce uno scalare sogliabile, non un verdetto binario — ed è ciò che rende possibile la calibrazione (vedi sotto).
3. Ciò che è davvero nuovo. la policy non è appresa. Llama Guard 4 incorpora la tassonomia MLCommons fissata al momento dell'addestramento; Shieldstral legge la vostra in linguaggio naturale al momento dell'inferenza, e la cambiate senza ri-addestramento. Il modello non apprende cosa è vietato, apprende ad applicare una regola che gli viene data.
4. La cifra che spiega il resto. — l'adattabilità non deriva dall'architettura ma dai dati fabbricati per insegnargliela: | Fase | F1 "adattabilità della policy" | |---|---| | Fine-tuning sui soli dataset pubblici | 61,1% | | + 4,4M coppie contrastive generate da un LLM | +23,3 pt | | + fusione di tre checkpoint | 91,3% | → La coppia contrastiva è il concetto davvero da ricordare: lo stesso contenuto riscritto per violare una policy ma non la sua policy gemella. È l'unico segnale che costringe il modello a leggere la domanda invece di riconoscere un argomento. Un pattern trasferibile a qualsiasi classificatore pilotabile tramite istruzioni.
5. La scheda tecnica, per decidere se gira sul vostro hardware. 3,8 miliardi di parametri effettivi (il "3B" arrotonda per difetto), base Ministral 3 + encoder visivo Pixtral (da cui multimodale: testo e immagine), 12 lingue, 16 GB di VRAM in BF16, Apache 2.0. È la classe "una scheda consumer" — il dimensionamento fa parte dell'argomento politico, non solo del prodotto.
6. I benchmark, con la loro riserva. 84,9% F1 medio sul testo, alla pari con GPT-OSS-Safeguard-20B (7 volte più grande), davanti a Qwen3Guard-8B (84,0), ben davanti a LlamaGuard-4-12B (69,1). Tutte queste cifre provengono da Mistral, su set di test scelti da Mistral, senza valutazione di terze parti al 6 agosto 2026. L'autore stesso solleva la riserva — non perderla citando il risultato.
7. Le tre regole di dispiegamento — il deliverable operativo della nota. 1. Calibrare due soglie su un dataset etichettato interno, invece di accettare il default 0,5: approvazione automatica sotto la prima, rifiuto automatico sopra la seconda, revisione umana nel mezzo. (Il punteggio continuo esiste esattamente per questo.) 2. Registrare la domanda di policy attiva a ogni decisione — sostituirà la giustificazione in un audit, dato che il modello non ne produce alcuna. 3. Testare la coppia menzione/endorsement e le vostre lingue effettive prima del dispiegamento in produzione. → E una quarta regola, separata: mantenere un rilevatore dedicato di prompt injection. Shieldstral filtra i contenuti, non protegge un agente da un documento minato. Una distinzione da non lasciar sfumare — vedi [[valente-zalewski-beyond-zero-enterprise-security-ai-era-2026-07-20]] e [[sfeir-anthropic-sdlc-ai-native-securise-2026-07-26]].
8. Il test di Voltaire — il controesempio da citare. nel thread di Hacker News, un utente sottopone il primo capitolo del Trattato sulla tolleranza con la domanda "questo testo incita alla violenza contro un gruppo protetto?". Risposta: sì. Il classificatore confonde il menzionare la violenza con l'avallarla — il falso positivo canonico del genere, ottenuto su uno dei testi fondativi della tolleranza. Mistral riconosce inoltre debolezze su input offuscati, documenti lunghi, arabo e indonesiano.
9. La lacuna di auditabilità, da valutare prima di qualsiasi uso regolamentato. l'output è yes/no più un punteggio, senza alcuna traccia di ragionamento. Eppure il deployer eredita la tassonomia, la calibrazione, e l'onere di giustificare ogni decisione in un audit AI Act — con un semplice punteggio come unica prova a supporto. È esattamente il prezzo della topologia "guardrail fuori dal modello": la responsabilità viene trasferita, gli strumenti per quella responsabilità no.
10. Disponibilità al 6 agosto 2026 (uno stato datato, da riverificare). nessun endpoint a pagamento su La Plateforme, nessuna presenza ufficiale su Ollama, quantizzazioni comunitarie pubblicate entro 48 ore che necessitano verifica del checksum. L'auto-hosting è l'unica via seria — coerente con il prodotto, ma nella pratica limita l'uso ai team capaci di ospitare da sé un modello.
11. La lettura in chiave di sovranità. un filtro che gira on-premise, la cui policy resta on-premise, documentato rispetto all'AI Act — è una casella che le offerte americane lasciano vuota per i clienti elencati da Mensch durante l'audizione (ministero delle Forze Armate, BNP Paribas, amministrazioni pubbliche francesi e lussemburghesi). Questo si collega direttamente alla tesi di sfeir-mistral-microsoft-souverainete-strategie-industrielle-2026-07-22: la sovranità è qualificata dipendenza per dipendenza, come proprietà architetturale — un guardrail a pesi aperti è proprio quel tipo di proprietà. Da collegare anche a mozilla-state-of-open-source-ai-2026-07 e deanwball-open-weights-decelerationnistes-kimi-2026-07-17 sul posto dei pesi aperti nel dibattito sulla sicurezza.
12. Meta / la frase da trattenere. "Mistral non deciderà cosa è accettabile, offre lo strumento affinché siate voi a deciderlo." Questa è la dottrina, in una riga — e la nota mostra che comporta un costo, non solo una virtù.