Publicación de investigación del **Frontier Red Team** de Anthropic (autores: **Andrew Fasano**, **Marius Fleischer**, Cole McFaul, Robert Xiao, Tripp Gallagher), publicada el **29 de septiembre de 2026**; aproximadamente **2300 palabras**, seis figuras. Analiza **GLM-5.3** de **Zhipu AI (Z.ai)**, un modelo de pesos abiertos, cinco meses después del anuncio de Claude Mythos Preview. **(A)** Capacidad: en ExploitBench (41 fallos de V8 de Chrome), GLM-5.3 construye un exploit completo en **50 de 410 intentos**, frente a **56 de 410** para Mythos Preview; en el benchmark interno de corrupción de memoria, secuestro del flujo de control en **4%** de los intentos frente a **6%**; Claude Opus 4.6 y GLM-5.2: 0. **(B)** Pruebas con expertos humanos: una cadena de vulnerabilidades 0-day de navegador que culmina en la lectura de los archivos del visitante; con **GLM-5.3-Flash**, una cadena de exploits N-day (CVE-2026-11645) que elude PAC en ARM64, **20 minutos** de atención humana, ocho horas de cómputo, **20,40 $** a precios de API. **(C)** Salvaguardas: eludidas en **64%** de los casos mediante un falso contexto de red-team, **92%** mediante reasoning prefill, **100%** mediante *abliteration* (unas 2200 horas-GPU, 4400 $); los modelos Claude probados permanecen en 0%. **(D)** Recomendaciones: ampliar el acceso de los defensores a modelos de frontera, pruebas gubernamentales independientes. Cita la evaluación de **CAISI** del NIST (17 de septiembre): «el modelo de pesos abiertos más capaz en ciberseguridad publicado hasta la fecha», aproximadamente cuatro meses por detrás de la frontera estadounidense. Amplía las notas del corpus sobre Mythos y Glasswing.
#GLM-5.3#Zhipu AI#Z.ai
Andrew Fasano · Marius Fleischer · Cole McFaul · Robert Xiao · Tripp Gallagher ; Frontier Red Team · Anthropic (billet de recherche du site anthropic.com).
Una nota de vigilancia de **Didier Girard** publicada en **X** el **7 de agosto de 2026**, que interpreta el lanzamiento de **Shieldstral 1.0 3B** (Mistral AI, 4 de agosto de 2026) no como el lanzamiento de un producto sino como **el despliegue en producción de una doctrina**. Punto de partida: el **13 de mayo de 2026**, ante la comisión de investigación de la Asamblea Nacional sobre las vulnerabilidades digitales, **Arthur Mensch** rechazó cualquier papel de supervisión de Mistral sobre el uso final de sus modelos — *"no tenemos legitimidad democrática"* — rechazando explícitamente la postura de **Anthropic**. Menos de tres meses después, Mistral lanza un **modelo de moderación**. El autor descarta la contradicción aparente: **Shieldstral no incorpora ninguna taxonomía de lo lícito y lo ilícito**, responde a una **pregunta que escribe el usuario**. **El mecanismo es el corazón de la nota**: un prompt en tres partes (contexto + severidad / una única pregunta cerrada / el contenido a juzgar), una respuesta `yes` o `no`, y el **softmax sobre estos dos tokens** produce una puntuación continua entre 0 y 1. **La política de moderación no está en los pesos, se lee en el momento de la inferencia** — mientras que **Llama Guard 4** incorpora la taxonomía de MLCommons fijada en el entrenamiento, Shieldstral lee la vuestra en lenguaje natural, modificable **sin reentrenamiento**. El informe técnico (**arXiv:2607.25857**, 28 de julio de 2026) cuantifica el coste de esta elección: el ajuste fino solo con datos públicos = **61,1% de F1** en adaptabilidad de política; **4,4 millones de pares contrastivos** generados por un LLM (el mismo contenido reescrito para infringir una política pero no su política hermana) = **+23,3 puntos**; **91,3%** tras la fusión de tres checkpoints. Características: **3.800 millones de parámetros reales** (el «3B» del nombre redondea a la baja), base **Ministral 3** + codificador de visión **Pixtral**, **12 idiomas**, **16 GB de VRAM en BF16**, **Apache 2.0**. Rendimiento en texto: **84,9% de F1 promedio**, a la par de **GPT-OSS-Safeguard-20B** (siete veces más grande), por delante de **Qwen3Guard-8B** (84,0) y muy por delante de **LlamaGuard-4-12B** (69,1). **Una salvedad planteada por el propio autor**: *todas estas cifras provienen de Mistral, sobre conjuntos de prueba seleccionados por Mistral, y no existía ninguna evaluación de terceros a fecha del 6 de agosto*. La tesis estructurante de la nota es una **oposición de topologías**: en **Anthropic**, la barrera de seguridad vive **en los pesos** y el editor arbitra quién queda exento de ella (**Claude Fable 5** público con medidas de seguridad / **Claude Mythos 5** sin ellas, reservado a los ciberdefensores aprobados de **Project Glasswing**, 9 de junio de 2026); en **Mistral**, la barrera de seguridad **se sitúa fuera del modelo** — un componente separado, abierto, autoalojable, cuya política pertenece a quien lo despliega. Alineación explícita de clientes (ministerio de las Fuerzas Armadas, BNP Paribas, administraciones gubernamentales francesa y luxemburguesa). La nota cierra con un **contratiempo documentado en tres puntos**: **auditabilidad** (salida binaria, sin traza de razonamiento, mientras que quien despliega hereda la carga de la justificación en una auditoría de la AI Act), **robustez** (el primer capítulo del *Tratado sobre la tolerancia* de Voltaire clasificado como «llamada a la violencia» por un usuario en el hilo de Hacker News — una confusión entre mención y respaldo), **disponibilidad** (a fecha del 6 de agosto: sin endpoint facturado en La Plateforme, sin Ollama oficial). Tres reglas de despliegue para cerrar.
#Shieldstral#Shieldstral 1.0 3B#Mistral AI
**Didier Girard** — auteur de la note · publiée sur son compte X. Écrit ici en **analyste de doctrine industrielle** plutôt qu'en testeur : il n'a pas déployé le modèle · il croise une **audition parlementaire** (Mensch, 13 mai) · un **lancement produit** (Shieldstral, 4 août) · un **rapport technique** (arXiv, 28 juillet) et un **contre-exemple concurrent** (Anthropic, 9 juin) pour montrer qu'ils forment une position cohérente. Deux marqueurs de posture : il **borne explicitement la valeur des chiffres** qu'il cite (aucune évaluation tierce) et il **termine par des règles opérationnelles** — l'analyse doit sortir avec sa traduction en décisions de déploiement.
Anthropic lanza Claude Fable 5 (un modelo de clase Mythos adaptado para uso general) y Claude Mythos 5 (el mismo modelo, sin las salvaguardas, restringido a ciberdefensores a través de Project Glasswing): rendimiento de vanguardia en ingeniería de software, visión, memoria de contexto largo y ciencias de la vida.