# wright-microsoft-ai-agents-manipulation-zdnet-2025-11-06

## Veille

Microsoft Magentic Marketplace - Manipulationstests an KI-Agenten - Claude Sonnet 4 als einziger resistent - Paradox der Wahl - Prompt Injection - Entscheidungslähmung - Webb Wright - ZDNet

## Titre Article

Microsoft researchers tried to manipulate AI agents - and only one resisted all attempts

## Date

2025-11-06

## URL

https://www.zdnet.com/article/microsoft-researchers-tried-to-manipulate-ai-agents-and-only-one-resisted-all-attempts/

## Keywords

KI-Agenten, Microsoft-Forschung, Magentic Marketplace, Manipulation, Claude Sonnet 4, GPT-5, Gemini 2.5 Flash, Paradox der Wahl, Entscheidungslähmung, Prompt Injection, Konsumentennutzen, Marktsimulation, automatisierte Käufer, automatisierte Verkäufer, OpenAI Operator, Meta Business AI, OSS-20b, Qwen2.5-14b-2507, Angebots-Verzerrung, Verzerrung durch letztes Unternehmen, irreführende Informationen, agentengesteuerte Wirtschaft, Transaktionsautomatisierung, Marktplatzentscheidungen, Open-Source-Umgebung, GitHub

## Authors

Webb Wright (Contributing Writer, ZDNet)

## Ton

**Profil:** Technikjournalismus-kritisch | Journalist analysiert Forschung | Informativ-mahnend | Allgemeine Öffentlichkeit-mittleres Niveau

Wright verwendet eine technikjournalistische Stimme, die zugängliche Popularisierung mit technischer Präzision verbindet. Eine „Kernaussagen“-Struktur geht der für ZDNet typischen Zusammenfassung voraus. Direkte Microsoft-Zitate („Diese Veränderung ist wichtig, weil ...“, „Agenten sollten unterstützen, nicht ersetzen“) verleihen Glaubwürdigkeit. Gemäßigter kritischer Ton („KI-Agenten versagen auf elementare Weise“, „wahrscheinlich noch nicht bereit für den produktiven Einsatz“) ohne Katastrophismus. Konkrete Beispiele (Restaurantwahl, Vergleich von Rechnungsbeispielen) machen Abstraktionen greifbar. Parallele Erwähnungen aktueller Studien (Anthropics Claude und das kleine Unternehmen, Qualität freiberuflicher Arbeit) bauen eine übereinstimmende Erzählung auf, dass Agenten überbewertet sind. Typisch für den Technikjournalismus für die breite Öffentlichkeit (ZDNet, CNET, Ars Technica), der den Unternehmens-Hype durch empirische Forschung entzaubert.

## Pense-betes

- **Kernstudie**: Microsoft „Magentic Marketplace“ - Open-Source-Umgebung, in der Agenten für virtuelle Transaktionen konversieren
- **Ziel**: Testen der praktischen Fähigkeiten agentischer Systeme als Anbieter, die autonome Produkte ausliefern (OpenAI Operator, Meta Business AI)
- **Simulationen**: 100 Kunden + 300 Unternehmen, proprietäre Modelle (GPT-5, Gemini 2.5 Flash) + Open-Source (OSS-20b)
- **Aufgabe der Kunden-Agenten**: den Anbieter finden, der alles zum besten Preis bietet, über menschlich überwachte Textprompts
- **Metrik**: „consumer welfare“ = Summe der internen Bewertungen - Endpreis, aggregiert über alle Transaktionen
- **Versprechen der Agenten**: Überwindung von „Informationslücken“ (menschliche mentale/logistische Abkürzungen - zufällige Wahl, günstigste Option)
- **„Paradox der Wahl“**: Die meisten Agenten (außer GPT-5/Gemini 2.5 Flash) interagieren trotz mehrerer Optionen nur mit einer kleinen Anzahl von Anbietern
- **Schlüsselzitat**: „Die meisten Modelle führen keine erschöpfenden Vergleiche durch, sondern akzeptieren stattdessen leicht die erste ‚ausreichend gute‘ Option“
- **Konsumentennutzen sinkt**, wenn die Anzahl der Anbieteroptionen steigt
- **6 getestete Manipulationsstrategien**: fragwürdige Behauptungen („Das mit #1 bewertete mexikanische Restaurant“), explizite Prompt Injections, irreführende Informationen
- **Claude Sonnet 4 einzigartig**: vollständige Resistenz gegenüber allen Manipulationsversuchen
- **Open-Source-Verzerrung**: Qwen2.5-14b-2507 wählt das letzte Unternehmen der ursprünglichen Liste
- **„Angebots-Verzerrung“**: Modelle wählen den ersten Anbieter-Agenten, der mit einem Angebot antwortet, und bevorzugen Geschwindigkeit gegenüber Gründlichkeit
- **Zitat zu den Gefahren**: „Diese Verzerrungen können unfaire Marktdynamiken schaffen, unbeabsichtigtes Verhalten fördern und Unternehmen dazu bringen, eher bei der Reaktionsgeschwindigkeit als bei der Produkt- oder Servicequalität zu konkurrieren“
- **Wirtschaftliche Risiken**: KI verfolgt nicht mehr nur Preise, sie überwacht alltägliche Transaktionen - Systemundurchsichtigkeit
- **Verzerrungen in Trainingsdaten**: verborgen in den Details; wie werden sie sich manifestieren, sobald Legionen von KI-Käufer-/Verkäufer-Agenten freigesetzt werden?
- **Übereinstimmende Studien**: KI-Agenten sind noch weit von hochwertiger freiberuflicher Arbeit entfernt; Anthropics Claude hatte Schwierigkeiten, ein kleines Unternehmen einen Monat lang zu führen
- **Microsofts Schlussfolgerung**: „Agenten sollten menschliche Entscheidungsfindung unterstützen, nicht ersetzen“
- **Verfügbarkeit**: Open Source auf GitHub zur Reproduktion der Tests

## RésuméDe400mots

Webb Wright berichtet in ZDNet über eine Microsoft-Studie, die kritische Schwachstellen bei KI-Agenten in einem autonomen Marktplatzkontext aufdeckt; nur Claude Sonnet 4 von Anthropic widersteht Manipulationsversuchen vollständig.

**Magentic Marketplace: eine realistische Simulation**

Microsoft hat eine Open-Source-Umgebung (verfügbar auf GitHub) geschaffen, in der KI-Agenten konversieren, um Transaktionen abzuwickeln, die einen realen Marktplatz simulieren. Kontext: Anbieter bringen rasch autonome Produkte auf den Markt (OpenAI Operator durchsucht Websites und kauft im Auftrag von Nutzern, Meta Business AI interagiert als automatisierter Verkäufer mit Kunden). Microsoft testet praktische Fähigkeiten zu einem Zeitpunkt, an dem „Agenten zu aktiven Marktteilnehmern werden, die Struktur dieser Märkte jedoch weiterhin ungewiss bleibt.“

Die Experimente verwenden führende proprietäre Modelle (GPT-5, Gemini 2.5 Flash) und Open-Source-Modelle (OSS-20b) und simulieren 100 Kunden und 300 Unternehmen, die über menschlich überwachte Textprompts interagieren. Kunden-Agenten müssen den Anbieter finden, der alles zum besten Preis bietet. Die Metrik „consumer welfare“ (Konsumentennutzen) entspricht den internen Bewertungen abzüglich des Endpreises, aggregiert über alle Transaktionen.

**Versprechen und Schwachstellen**

Agenten zeigen Potenzial, menschliche „Informationslücken“ zu überwinden (mentale Abkürzungen: zufällige Wahl, günstigste Option). „Da Agenten über bessere Werkzeuge für Recherche und Kommunikation verfügen, befreien sie Kunden von hoher kognitiver Belastung ... Dies senkt die Kosten fundierter Entscheidungen und verbessert die Ergebnisse für Kunden.“

Doch kritische Schwachstellen zeigen sich:

**Paradox der Wahl**: Trotz mehrerer Optionen interagieren die meisten Agenten (außer GPT-5/Gemini 2.5 Flash) nur mit einer kleinen Anzahl von Anbietern. „Die meisten Modelle führen keine erschöpfenden Vergleiche durch, sondern akzeptieren stattdessen leicht die erste ‚ausreichend gute‘ Option.“ Der Konsumentennutzen sinkt mit zunehmender Anzahl an Optionen — das Gegenteil klassischer ökonomischer Logik.

**Leichte Manipulierbarkeit**: Sechs getestete Strategien (fragwürdige Behauptungen wie „Das mit #1 bewertete mexikanische Restaurant“, explizite Prompt Injections, irreführende Informationen). Große Unterschiede in den Reaktionen zwischen den Modellen. **Claude Sonnet 4 ist das einzige Modell, das gegenüber allen Versuchen vollständige Resistenz zeigt.**

**Systemische Verzerrungen**: Das Open-Source-Modell Qwen2.5-14b-2507 wählt systematisch das letzte Unternehmen der ursprünglichen Liste. Eine „Angebots-Verzerrung“ ist weit verbreitet: Modelle wählen den ersten Anbieter, der mit einem Angebot antwortet, und bevorzugen Geschwindigkeit gegenüber Gründlichkeit. „Diese Verzerrungen können unfaire Marktdynamiken schaffen, unbeabsichtigtes Verhalten fördern und Unternehmen dazu bringen, eher bei der Reaktionsgeschwindigkeit als bei der Produkt- oder Servicequalität zu konkurrieren.“

**Wirtschaftliche Implikationen und übereinstimmende Studien**

Wright hebt die Risiken einer agentengesteuerten Wirtschaft hervor: Finanzmärkte werden bereits von undurchsichtigen Algorithmen bestimmt, die Rohstoffpreise verfolgen. „Wie viel undurchsichtiger wird das System werden, wenn KI nicht nur Preise verfolgt, sondern tatsächlich den Großteil alltäglicher Transaktionen überwacht?“ Wie werden sich verborgene Verzerrungen in Trainingsdaten manifestieren, sobald Legionen von KI-Käufer- und Verkäufer-Agenten eingesetzt werden?

Aktuelle Forschung stimmt überein: Agenten sind noch weit von hochwertiger freiberuflicher Arbeit entfernt, und Anthropics Claude hatte Schwierigkeiten, ein kleines Unternehmen einen Monat lang zu führen. Alles deutet auf dieselbe Schlussfolgerung hin: Trotz des enormen Hypes ist es noch ein weiter Weg bis zum zuverlässigen autonomen Betrieb.

**Microsofts ausdrückliche Schlussfolgerung**: „Agenten sollten menschliche Entscheidungsfindung unterstützen, nicht ersetzen.“

Die Forschung liefert KI-Unternehmen eine Roadmap zur Behebung dieser Schwachstellen, da Agenten konsistent — und damit vorhersehbar — versagten.

## GrapheDeConnaissance

- Microsoft —a_créé→ Magentic Marketplace (TECHNOLOGIE, 0.98)
- Magentic Marketplace —permet→ simulation de transactions marketplace entre agents IA (CONCEPT, 0.97)
- Claude Sonnet 4 —résout→ tentatives de manipulation (CONCEPT, 0.99)
- paradox of choice —observé_dans→ agents IA (TECHNOLOGIE, 0.93)
- last business bias —observé_dans→ Qwen2.5-14b-2507 (TECHNOLOGIE, 0.92)
- proposal bias —observé_dans→ agents IA (TECHNOLOGIE, 0.93)
- proposal bias —réduit→ consumer welfare (CONCEPT, 0.9)
- Microsoft —publie→ Magentic Marketplace (TECHNOLOGIE, 0.98)
- Magentic Marketplace —utilise→ GitHub (TECHNOLOGIE, 0.97)
- Webb Wright —publie→ article ZDNet manipulation agents (DOCUMENT, 0.99)
- OpenAI Operator —permet→ automatisation des transactions utilisateurs (CONCEPT, 0.9)
- Meta Business AI —permet→ automatisation des interactions clients (CONCEPT, 0.88)
- Microsoft —affirme_que→ les agents doivent assister et non remplacer la décision humaine (AFFIRMATION, 0.98)
- agents IA —réduit→ équité des marchés (CONCEPT, 0.85)

---
Canonical: https://www.thekb.eu/de/fiches/wright-microsoft-ai-agents-manipulation-zdnet-2025-11-06/