# wright-microsoft-ai-agents-manipulation-zdnet-2025-11-06

## Veille

Microsoft Magentic Marketplace - pruebas de manipulación de agentes de IA - Claude Sonnet 4 único resistente - Paradoja de la elección - Prompt injection - Parálisis por análisis - Webb Wright - ZDNet

## Titre Article

Microsoft researchers tried to manipulate AI agents - and only one resisted all attempts

## Date

2025-11-06

## URL

https://www.zdnet.com/article/microsoft-researchers-tried-to-manipulate-ai-agents-and-only-one-resisted-all-attempts/

## Keywords

agentes de IA, investigación de Microsoft, Magentic Marketplace, manipulación, Claude Sonnet 4, GPT-5, Gemini 2.5 Flash, paradoja de la elección, parálisis por análisis, prompt injection, bienestar del consumidor, simulación de mercado, compradores automatizados, proveedores automatizados, OpenAI Operator, Meta Business AI, OSS-20b, Qwen2.5-14b-2507, sesgo de propuesta, sesgo de la última empresa, información engañosa, economía gestionada por agentes, automatización de transacciones, decisiones de mercado, entorno de código abierto, GitHub

## Authors

Webb Wright (Contributing Writer, ZDNet)

## Ton

**Perfil:** Periodismo tecnológico-crítico | Periodista que analiza una investigación | Informativo-cautelar | Público general-intermedio

Wright adopta una voz de periodismo tecnológico que equilibra la divulgación accesible con la precisión técnica. Una estructura de "puntos clave" precede al resumen ejecutivo típico de ZDNet. Las citas directas de Microsoft ("Este cambio importa porque...", "Los agentes deben asistir, no reemplazar") aportan credibilidad. Tono crítico mesurado ("los agentes de IA fallan de maneras elementales", "probablemente no listos para el gran público") sin catastrofismo. Ejemplos concretos (elección de restaurante, comparaciones de ejemplos de facturas) hacen tangibles las abstracciones. Las menciones paralelas de estudios recientes (pequeña empresa de Claude de Anthropic, calidad del trabajo freelance) construyen una narrativa convergente de que los agentes están sobrevalorados por el hype. Típico del periodismo tecnológico de público general (ZDNet, CNET, Ars Technica) que desmitifica el hype corporativo mediante investigación empírica.

## Pense-betes

- **Investigación principal**: "Magentic Marketplace" de Microsoft - entorno de código abierto donde los agentes conversan para transacciones virtuales
- **Objetivo**: probar las capacidades prácticas de los sistemas agénticos a medida que los proveedores lanzan productos autónomos (OpenAI Operator, Meta Business AI)
- **Simulaciones**: 100 clientes + 300 empresas, modelos propietarios (GPT-5, Gemini 2.5 Flash) + código abierto (OSS-20b)
- **Tarea de los agentes cliente**: encontrar al proveedor que ofrece todo al mejor precio mediante prompts de texto supervisados por humanos
- **Métrica**: "bienestar del consumidor" = suma de las valoraciones internas - precio final, agregada en todas las transacciones
- **Promesa de los agentes**: superar las "brechas de información" (atajos mentales/logísticos humanos - elección aleatoria, opción más barata)
- **"Paradoja de la elección"**: la mayoría de los agentes (excepto GPT-5/Gemini 2.5 Flash) interactúan con solo un pequeño número de proveedores a pesar de las múltiples opciones
- **Cita clave**: "La mayoría de los modelos no realizan comparaciones exhaustivas y, en su lugar, aceptan fácilmente las primeras opciones 'suficientemente buenas'"
- **El bienestar del consumidor disminuye** a medida que aumenta el número de opciones de proveedores
- **6 estrategias de manipulación probadas**: afirmaciones dudosas ("restaurante mexicano mejor valorado n.º 1"), prompt injections explícitas, información engañosa
- **Claude Sonnet 4 único**: resistencia total a todos los intentos de manipulación
- **Sesgo del código abierto**: Qwen2.5-14b-2507 elige la última empresa de la lista inicial
- **"Sesgo de propuesta"**: los modelos eligen al primer agente proveedor que responde con una oferta, favoreciendo la rapidez sobre la exhaustividad
- **Cita sobre los peligros**: "Estos sesgos pueden crear dinámicas de mercado injustas, generar comportamientos no deseados y empujar a las empresas a competir por la velocidad de respuesta en lugar de por la calidad del producto o servicio"
- **Riesgos económicos**: la IA ya no solo rastrea precios, supervisa las transacciones cotidianas - opacidad del sistema
- **Sesgos de los datos de entrenamiento**: ocultos en los detalles; ¿cómo se manifestarán una vez que se desplieguen legiones de agentes de IA compradores/vendedores?
- **Estudios convergentes**: los agentes de IA siguen lejos de un trabajo freelance de calidad; Claude de Anthropic tuvo dificultades para gestionar una pequeña empresa durante un mes
- **Conclusión de Microsoft**: "Los agentes deben asistir, no reemplazar, la toma de decisiones humana"
- **Disponibilidad**: código abierto en GitHub para la reproducción de las pruebas

## RésuméDe400mots

Webb Wright informa en ZDNet sobre una investigación de Microsoft que revela fallos críticos en los agentes de IA dentro de un contexto de mercado autónomo; solo Claude Sonnet 4 de Anthropic resiste por completo los intentos de manipulación.

**Magentic Marketplace: una simulación realista**

Microsoft creó un entorno de código abierto (disponible en GitHub) donde agentes de IA conversan para completar transacciones que simulan un mercado real. Contexto: los proveedores están lanzando rápidamente productos autónomos (OpenAI Operator navega por sitios web y compra en nombre de los usuarios, Meta Business AI interactúa con clientes como vendedor automatizado). Microsoft pone a prueba las capacidades prácticas en un momento en que "los agentes se convierten en participantes activos del mercado, pero la estructura de estos mercados sigue siendo incierta".

Los experimentos utilizan modelos propietarios líderes (GPT-5, Gemini 2.5 Flash) y modelos de código abierto (OSS-20b), simulando 100 clientes y 300 empresas que interactúan mediante prompts de texto supervisados por humanos. Los agentes cliente deben encontrar al proveedor que ofrece todo al mejor precio. La métrica de "bienestar del consumidor" corresponde a las valoraciones internas menos el precio final, agregadas.

**Promesas y fallos**

Los agentes muestran potencial para superar las "brechas de información" humanas (atajos mentales: elección aleatoria, opción más barata). "A medida que los agentes obtienen mejores herramientas de descubrimiento y comunicación, liberan a los clientes de una carga cognitiva pesada... Esto reduce el coste de tomar decisiones informadas y mejora los resultados para el cliente."

Pero surgen fallos críticos:

**Paradoja de la elección**: a pesar de las múltiples opciones, la mayoría de los agentes (excepto GPT-5/Gemini 2.5 Flash) interactúan con solo un pequeño número de proveedores. "La mayoría de los modelos no realizan comparaciones exhaustivas y, en su lugar, aceptan fácilmente las primeras opciones 'suficientemente buenas'." El bienestar del consumidor disminuye a medida que aumentan las opciones, lo contrario de la lógica económica clásica.

**Fácil manipulación**: se probaron seis estrategias (afirmaciones dudosas como "restaurante mexicano mejor valorado n.º 1", prompt injections explícitas, información engañosa). Amplia variación en las respuestas entre modelos. **Claude Sonnet 4 es el único que muestra una resistencia total a todos los intentos.**

**Sesgos sistémicos**: el modelo de código abierto Qwen2.5-14b-2507 elige sistemáticamente la última empresa de la lista inicial. El "sesgo de propuesta" está muy extendido: los modelos eligen al primer proveedor que responde con una oferta, favoreciendo la rapidez sobre la exhaustividad. "Estos sesgos pueden crear dinámicas de mercado injustas, generar comportamientos no deseados y empujar a las empresas a competir por la velocidad de respuesta en lugar de por la calidad del producto o servicio."

**Implicaciones económicas y estudios convergentes**

Wright destaca los riesgos de una economía impulsada por agentes: los mercados financieros ya están gobernados por algoritmos inescrutables que rastrean los precios de las materias primas. "¿Cuánto más opaco se volverá el sistema cuando la IA no solo rastree precios, sino que supervise realmente la mayoría de las transacciones cotidianas?" ¿Cómo se manifestarán los sesgos ocultos en los datos de entrenamiento una vez que se desplieguen legiones de agentes de IA compradores y vendedores?

Las investigaciones recientes convergen: los agentes siguen estando lejos de un trabajo freelance de calidad, y Claude de Anthropic tuvo dificultades para gestionar una pequeña empresa durante un mes. Todo apunta a la misma conclusión: a pesar del enorme entusiasmo, todavía queda camino por recorrer antes de un funcionamiento autónomo fiable.

**Conclusión explícita de Microsoft**: "Los agentes deben asistir, no reemplazar, la toma de decisiones humana."

La investigación proporciona a las empresas de IA una hoja de ruta para corregir estos fallos, dado que los agentes fallaron de manera consistente, y por lo tanto predecible.

## GrapheDeConnaissance

- Microsoft —a_créé→ Magentic Marketplace (TECHNOLOGIE, 0.98)
- Magentic Marketplace —permet→ simulation de transactions marketplace entre agents IA (CONCEPT, 0.97)
- Claude Sonnet 4 —résout→ tentatives de manipulation (CONCEPT, 0.99)
- paradox of choice —observé_dans→ agents IA (TECHNOLOGIE, 0.93)
- last business bias —observé_dans→ Qwen2.5-14b-2507 (TECHNOLOGIE, 0.92)
- proposal bias —observé_dans→ agents IA (TECHNOLOGIE, 0.93)
- proposal bias —réduit→ consumer welfare (CONCEPT, 0.9)
- Microsoft —publie→ Magentic Marketplace (TECHNOLOGIE, 0.98)
- Magentic Marketplace —utilise→ GitHub (TECHNOLOGIE, 0.97)
- Webb Wright —publie→ article ZDNet manipulation agents (DOCUMENT, 0.99)
- OpenAI Operator —permet→ automatisation des transactions utilisateurs (CONCEPT, 0.9)
- Meta Business AI —permet→ automatisation des interactions clients (CONCEPT, 0.88)
- Microsoft —affirme_que→ les agents doivent assister et non remplacer la décision humaine (AFFIRMATION, 0.98)
- agents IA —réduit→ équité des marchés (CONCEPT, 0.85)

---
Canonical: https://www.thekb.eu/es/fiches/wright-microsoft-ai-agents-manipulation-zdnet-2025-11-06/