Shieldstral : Mistral compile sa doctrine en 3,8 milliards de paramètres

Puntos clave

1. La idea central, que merece recordarse por sí sola. la pregunta no es "¿qué modelo modera mejor?" sino "¿dónde vive la barrera de seguridad?". Dos respuestas opuestas, dadas con dos meses de diferencia por dos editores: | | Anthropic (9 de junio de 2026) | Mistral (4 de agosto de 2026) | |---|---|---| | Ubicación | en los pesos del modelo | junto al modelo, un componente separado | | Quién define la política | el editor | quien lo despliega | | Quién queda exento de la barrera | quienes el editor aprueba (Project Glasswing) | no aplica | | Modelo de distribución | Fable 5 público / Mythos 5 restringido | Apache 2.0 pesos abiertos | → Esto no es un desacuerdo técnico, es un desacuerdo sobre quién tiene la legitimidad para arbitrar qué es lícito. Ver [[anthropic-claude-fable-5-mythos-5-2026-06-09]] para el bando opuesto y [[mensch-mistral-commission-enquete-vulnerabilites-numeriques-souverainete-ia-2026-05-13]] para la posición anterior de Mensch.
2. El mecanismo, en tres líneas. prompt = (1) contexto + nivel de severidad, (2) una única pregunta cerrada ("¿este contenido llama a la violencia?"), (3) el contenido a juzgar. Salida = yes / no, y el softmax sobre solo estos dos tokens da una puntuación continua entre 0 y 1. Consecuencia práctica: esto produce un escalar con umbral configurable, no un veredicto binario — lo que hace posible la calibración (ver más abajo).
3. Lo que es realmente nuevo. la política no se aprende. Llama Guard 4 incorpora la taxonomía de MLCommons fijada en el entrenamiento; Shieldstral lee la vuestra en lenguaje natural en el momento de la inferencia, y la cambiáis sin reentrenamiento. El modelo no aprende qué está prohibido, aprende a aplicar una regla que se le da.
4. La cifra que explica el resto. — la adaptabilidad no viene de la arquitectura sino de los datos fabricados para enseñarla: | Etapa | F1 de "adaptabilidad de política" | |---|---| | Ajuste fino solo con conjuntos de datos públicos | 61,1% | | + 4,4M de pares contrastivos generados por un LLM | +23,3 pts | | + fusión de tres checkpoints | 91,3% | → El par contrastivo es el concepto que realmente merece recordarse: el mismo contenido reescrito para infringir una política pero no su política hermana. Es la única señal que obliga al modelo a leer la pregunta en lugar de reconocer un tema. Un patrón transferible a cualquier clasificador orientable por instrucciones.
5. La ficha técnica, para decidir si funciona en vuestro hardware. 3.800 millones de parámetros reales (el "3B" redondea a la baja), base Ministral 3 + codificador de visión Pixtral (de ahí que sea multimodal: texto e imagen), 12 idiomas, 16 GB de VRAM en BF16, Apache 2.0. Es la clase "una tarjeta de consumo" — el dimensionamiento forma parte del argumento político, no solo del producto.
6. Los benchmarks, con su salvedad. 84,9% de F1 promedio en texto, a la par de GPT-OSS-Safeguard-20B (7× el tamaño), por delante de Qwen3Guard-8B (84,0), muy por delante de LlamaGuard-4-12B (69,1). Todas estas cifras provienen de Mistral, sobre conjuntos de prueba elegidos por Mistral, sin evaluación de terceros a fecha del 6 de agosto de 2026. El autor plantea la salvedad él mismo — no perderla al citar el resultado.
7. Las tres reglas de despliegue — el entregable accionable de la nota. 1. Calibrar dos umbrales sobre un conjunto de datos etiquetado propio, en lugar de aceptar el 0,5 por defecto: aprobación automática por debajo del primero, rechazo automático por encima del segundo, revisión humana entre ambos. (La puntuación continua existe exactamente para esto.) 2. Registrar la pregunta de política activa con cada decisión — servirá de justificación en una auditoría, ya que el modelo no produce ninguna. 3. Probar el par mención/respaldo y vuestros idiomas reales antes del despliegue en producción. → Y una cuarta regla, separada: mantener un detector de prompt-injection dedicado. Shieldstral filtra contenido, no protege a un agente frente a un documento trampeado. Una distinción que no debe difuminarse — ver [[valente-zalewski-beyond-zero-enterprise-security-ai-era-2026-07-20]] y [[sfeir-anthropic-sdlc-ai-native-securise-2026-07-26]].
8. El test de Voltaire — el contraejemplo que merece citarse. en el hilo de Hacker News, un usuario envía el primer capítulo del Tratado sobre la tolerancia con la pregunta "¿este texto aboga por la violencia contra un grupo protegido?" Respuesta: yes. El clasificador confunde mencionar la violencia con respaldarla — el falso positivo canónico del género, obtenido sobre uno de los textos fundacionales de la tolerancia. Mistral también reconoce debilidades en entradas ofuscadas, documentos largos, árabe e indonesio.
9. La brecha de auditabilidad, a sopesar antes de cualquier uso regulado. la salida es yes/no más una puntuación, sin traza de razonamiento. Sin embargo, quien despliega hereda la taxonomía, la calibración y la carga de justificar cada decisión en una auditoría de la AI Act — con una puntuación desnuda como único elemento probatorio. Este es el precio exacto de la topología "barrera fuera del modelo": la responsabilidad se transfiere, las herramientas para esa responsabilidad no.
10. Disponibilidad a fecha del 6 de agosto de 2026 (un estado fechado, por verificar de nuevo). sin endpoint facturado en La Plateforme, sin listado oficial en Ollama, cuantizaciones comunitarias publicadas en 48 horas que necesitan verificación de checksum. El autoalojamiento es la única vía seria — coherente con el producto, pero en la práctica el uso queda limitado a los equipos capaces de alojar un modelo ellos mismos.
11. La lectura en clave de soberanía. un filtro que funciona on-premises, cuya política permanece on-premises, documentado respecto a la AI Act — esta es una casilla que las ofertas estadounidenses dejan vacía para los clientes que Mensch enumeró durante la audiencia (ministerio de las Fuerzas Armadas, BNP Paribas, administraciones gubernamentales francesa y luxemburguesa). Esto conecta directamente con la tesis de sfeir-mistral-microsoft-souverainete-strategie-industrielle-2026-07-22: la soberanía se cualifica dependencia por dependencia, como una propiedad arquitectónica — una barrera de seguridad de pesos abiertos es ese tipo de propiedad. Merece también conectarse con mozilla-state-of-open-source-ai-2026-07 y deanwball-open-weights-decelerationnistes-kimi-2026-07-17 sobre el lugar de los pesos abiertos en el debate de seguridad.
12. Meta / la frase que merece conservarse. "Mistral no decidirá qué es aceptable, ofrece la herramienta para que vosotros decidáis." Esa es la doctrina, en una línea — y la nota muestra que conlleva un coste, no solo una virtud.