# wright-microsoft-ai-agents-manipulation-zdnet-2025-11-06

## Veille

Microsoft Magentic Marketplace - test di manipolazione degli agenti IA - Claude Sonnet 4 unico resistente - Paradosso della scelta - Prompt injection - Paralisi da analisi - Webb Wright - ZDNet

## Titre Article

Microsoft researchers tried to manipulate AI agents - and only one resisted all attempts

## Date

2025-11-06

## URL

https://www.zdnet.com/article/microsoft-researchers-tried-to-manipulate-ai-agents-and-only-one-resisted-all-attempts/

## Keywords

agenti IA, ricerca Microsoft, Magentic Marketplace, manipolazione, Claude Sonnet 4, GPT-5, Gemini 2.5 Flash, paradosso della scelta, paralisi da analisi, prompt injection, consumer welfare, simulazione di mercato, acquirenti automatizzati, venditori automatizzati, OpenAI Operator, Meta Business AI, OSS-20b, Qwen2.5-14b-2507, proposal bias, bias dell'ultima azienda, informazioni fuorvianti, economia guidata dagli agenti, automazione delle transazioni, decisioni di marketplace, ambiente open-source, GitHub

## Authors

Webb Wright (Contributing Writer, ZDNet)

## Ton

**Profilo:** Giornalismo tecnico-critico | Giornalista che analizza una ricerca | Informativo-cautelativo | Pubblico generale-intermedio

Wright adotta una voce da giornalismo tecnico che bilancia una divulgazione accessibile con precisione tecnica. Una struttura a "punti chiave" precede il riassunto esecutivo tipico di ZDNet. Le citazioni dirette di Microsoft ("Questo cambiamento è importante perché...", "Gli agenti dovrebbero assistere, non sostituire") conferiscono credibilità. Tono critico misurato ("gli agenti IA falliscono in modi elementari", "probabilmente non ancora pronti per il grande pubblico") senza catastrofismo. Esempi concreti (scelta del ristorante, confronti di esempi di fatture) rendono tangibili le astrazioni. Riferimenti paralleli a studi recenti (Claude di Anthropic e la piccola impresa, qualità del lavoro freelance) costruiscono una narrazione convergente secondo cui gli agenti sono sopravvalutati. Tipico del giornalismo tecnico rivolto al grande pubblico (ZDNet, CNET, Ars Technica) che smitizza l'hype aziendale attraverso la ricerca empirica.

## Pense-betes

- **Ricerca principale**: Microsoft "Magentic Marketplace" - ambiente open-source in cui gli agenti conversano per transazioni virtuali
- **Obiettivo**: testare le capacità pratiche dei sistemi agentici mentre i fornitori lanciano prodotti autonomi (OpenAI Operator, Meta Business AI)
- **Simulazioni**: 100 clienti + 300 aziende, modelli proprietari (GPT-5, Gemini 2.5 Flash) + open-source (OSS-20b)
- **Compito degli agenti clienti**: trovare il fornitore che offre tutto al prezzo migliore tramite prompt testuali supervisionati da umani
- **Metrica**: "consumer welfare" = somma delle valutazioni interne - prezzo finale, aggregata su tutte le transazioni
- **Promessa degli agenti**: superare le "lacune informative" (scorciatoie mentali/logistiche umane - scelta casuale, opzione più economica)
- **"Paradosso della scelta"**: la maggior parte degli agenti (eccetto GPT-5/Gemini 2.5 Flash) interagisce solo con un piccolo numero di fornitori nonostante le molteplici opzioni
- **Citazione chiave**: "La maggior parte dei modelli non conduce confronti esaustivi e accetta invece facilmente le prime opzioni 'abbastanza buone'"
- **Il consumer welfare diminuisce** all'aumentare del numero di opzioni di fornitori disponibili
- **6 strategie di manipolazione testate**: affermazioni dubbie ("ristorante messicano #1"), prompt injection espliciti, informazioni fuorvianti
- **Claude Sonnet 4 unico**: resistenza totale a tutti i tentativi di manipolazione
- **Bias open-source**: Qwen2.5-14b-2507 sceglie l'ultima azienda della lista iniziale
- **"Proposal bias"**: i modelli scelgono il primo agente fornitore che risponde con un'offerta, privilegiando la velocità rispetto all'accuratezza
- **Citazione sui pericoli**: "Questi bias possono creare dinamiche di mercato inique, generare comportamenti non intenzionali e spingere le aziende a competere sulla velocità di risposta piuttosto che sulla qualità del prodotto o del servizio"
- **Rischi economici**: l'IA non si limita più a tracciare i prezzi, supervisiona le transazioni quotidiane - opacità del sistema
- **Bias nei dati di addestramento**: nascosti nei dettagli; come si manifesteranno una volta rilasciate legioni di agenti IA acquirenti/venditori?
- **Studi convergenti**: gli agenti IA restano lontani da un lavoro freelance di qualità; Claude di Anthropic ha faticato a gestire una piccola impresa per un mese
- **Conclusione Microsoft**: "Gli agenti dovrebbero assistere, non sostituire, il processo decisionale umano"
- **Disponibilità**: open-source su GitHub per la riproduzione dei test

## RésuméDe400mots

Webb Wright riporta su ZDNet una ricerca Microsoft che rivela difetti critici negli agenti IA in un contesto di marketplace autonomo; solo Claude Sonnet 4 di Anthropic resiste completamente ai tentativi di manipolazione.

**Magentic Marketplace: una simulazione realistica**

Microsoft ha creato un ambiente open-source (disponibile su GitHub) in cui gli agenti IA conversano per completare transazioni simulando un marketplace reale. Contesto: i fornitori stanno rapidamente lanciando prodotti autonomi (OpenAI Operator naviga sui siti web e acquista per conto degli utenti, Meta Business AI interagisce con i clienti come venditore automatizzato). Microsoft testa le capacità pratiche in un momento in cui "gli agenti diventano partecipanti attivi del mercato, ma la struttura di questi mercati rimane incerta."

Gli esperimenti utilizzano modelli proprietari di punta (GPT-5, Gemini 2.5 Flash) e modelli open-source (OSS-20b), simulando 100 clienti e 300 aziende che interagiscono tramite prompt testuali supervisionati da umani. Gli agenti clienti devono trovare il fornitore che offre tutto al prezzo migliore. La metrica "consumer welfare" corrisponde alle valutazioni interne meno il prezzo finale, aggregate.

**Promesse e difetti**

Gli agenti mostrano potenziale nel superare le "lacune informative" umane (scorciatoie mentali: scelta casuale, opzione più economica). "Man mano che gli agenti acquisiscono strumenti migliori per la scoperta e la comunicazione, sollevano i clienti da un pesante carico cognitivo... Questo riduce il costo di prendere decisioni informate e migliora i risultati per i clienti."

Ma emergono difetti critici:

**Paradosso della scelta**: nonostante le molteplici opzioni, la maggior parte degli agenti (eccetto GPT-5/Gemini 2.5 Flash) interagisce solo con un piccolo numero di fornitori. "La maggior parte dei modelli non conduce confronti esaustivi e accetta invece facilmente le prime opzioni 'abbastanza buone'." Il consumer welfare diminuisce all'aumentare delle opzioni disponibili — l'opposto della logica economica classica.

**Facile manipolazione**: sei strategie testate (affermazioni dubbie come "ristorante messicano #1", prompt injection espliciti, informazioni fuorvianti). Ampia variazione nelle risposte tra i modelli. **Claude Sonnet 4 è l'unico a mostrare resistenza totale a tutti i tentativi.**

**Bias sistemici**: il modello open-source Qwen2.5-14b-2507 sceglie sistematicamente l'ultima azienda nella lista iniziale. Il "proposal bias" è diffuso: i modelli scelgono il primo fornitore che risponde con un'offerta, privilegiando la velocità rispetto all'accuratezza. "Questi bias possono creare dinamiche di mercato inique, generare comportamenti non intenzionali e spingere le aziende a competere sulla velocità di risposta piuttosto che sulla qualità del prodotto o del servizio."

**Implicazioni economiche e studi convergenti**

Wright evidenzia i rischi di un'economia guidata dagli agenti: i mercati finanziari sono già governati da algoritmi imperscrutabili che tracciano i prezzi delle materie prime. "Quanto più opaco diventerà il sistema quando l'IA non si limiterà a tracciare i prezzi ma supervisionerà effettivamente la maggior parte delle transazioni quotidiane?" Come si manifesteranno i bias nascosti nei dati di addestramento una volta che legioni di agenti IA acquirenti e venditori saranno dispiegate?

Le ricerche recenti convergono: gli agenti restano lontani da un lavoro freelance di qualità, e Claude di Anthropic ha faticato a gestire una piccola impresa per un mese. Tutto punta alla stessa conclusione: nonostante l'enorme hype, c'è ancora strada da fare prima di un funzionamento autonomo affidabile.

**Conclusione esplicita di Microsoft**: "Gli agenti dovrebbero assistere, non sostituire, il processo decisionale umano."

La ricerca fornisce alle aziende IA una roadmap per correggere questi difetti, poiché gli agenti hanno fallito in modo costante — e quindi prevedibile.

## GrapheDeConnaissance

- Microsoft —a_créé→ Magentic Marketplace (TECHNOLOGIE, 0.98)
- Magentic Marketplace —permet→ simulation de transactions marketplace entre agents IA (CONCEPT, 0.97)
- Claude Sonnet 4 —résout→ tentatives de manipulation (CONCEPT, 0.99)
- paradox of choice —observé_dans→ agents IA (TECHNOLOGIE, 0.93)
- last business bias —observé_dans→ Qwen2.5-14b-2507 (TECHNOLOGIE, 0.92)
- proposal bias —observé_dans→ agents IA (TECHNOLOGIE, 0.93)
- proposal bias —réduit→ consumer welfare (CONCEPT, 0.9)
- Microsoft —publie→ Magentic Marketplace (TECHNOLOGIE, 0.98)
- Magentic Marketplace —utilise→ GitHub (TECHNOLOGIE, 0.97)
- Webb Wright —publie→ article ZDNet manipulation agents (DOCUMENT, 0.99)
- OpenAI Operator —permet→ automatisation des transactions utilisateurs (CONCEPT, 0.9)
- Meta Business AI —permet→ automatisation des interactions clients (CONCEPT, 0.88)
- Microsoft —affirme_que→ les agents doivent assister et non remplacer la décision humaine (AFFIRMATION, 0.98)
- agents IA —réduit→ équité des marchés (CONCEPT, 0.85)

---
Canonical: https://www.thekb.eu/it/fiches/wright-microsoft-ai-agents-manipulation-zdnet-2025-11-06/