# martin-fowler-llm-software-development-2025-08-15

## Veille

Einige Gedanken zu LLMs und Softwareentwicklung - KI-Blase - Halluzinationen - Sicherheit - Martin Fowler

## Titre Article

Some thoughts on LLMs and Software Development

## Date

2025-08-15

## URL

https://martinfowler.com/articles/202508-ai-thoughts.html

## Keywords

LLM, KI, Softwareentwicklung, Blase, Halluzinationen, Nicht-Determinismus, Sicherheit, Angriffsfläche, Martin Fowler

## Authors

Martin Fowler

## Ton

**Profil:** Weiser Branchenkenner, reflektiert | Erste Person, Autorität | Analytisch-ausgewogen | Experte

Fowler (Chief Scientist bei ThoughtWorks) nimmt eine gemessene, autoritative Stimme an und bietet eine nuancierte Perspektive auf KI in der Softwareentwicklung. Seine charakteristische intellektuelle Ehrlichkeit ("NATÜRLICH IST ES EINE BLASE") zeigt seine Bereitschaft, unbequeme Wahrheiten auszusprechen. Die reflektierte, ausgewogene Sprache (Halluzinationen als Merkmal, die Herausforderungen des Nicht-Determinismus, sicherheitsrelevante Implikationen) vermeidet sowohl Triumphalismus als auch Geringschätzung. Der Ton entspricht der Weisheit des erfahrenen Praktikers, angesammelt über Jahrzehnte der Softwareentwicklung. Die essayistische, explorative Struktur, typisch für Fowlers Schreibstil, regt den Leser zu kritischem Denken an. Typisch für Vordenker der Softwarebranche (im Stil von Kent Beck, Robert Martin), die gemessene, auf tiefer Erfahrung beruhende Perspektiven bieten, gerichtet an Praktiker, die inmitten des Hypes einen ausgewogenen Standpunkt suchen.

## Pense-betes

- Aktuelle KI-Umfragen unzuverlässig: unterscheiden nicht zwischen Nutzungsmustern (Autovervollständigung vs. direkte Codebearbeitung)
- Direkte Codebearbeitung durch KI liefert weit mehr Mehrwert als Autovervollständigung
- Zukunft der Programmierung: ungewiss, niemand weiß es wirklich
- "NATÜRLICH IST ES EINE BLASE" - wie Kanäle, Eisenbahnen, das Internet
- Blase wird platzen, aber Unternehmen werden überleben und florieren (wie Amazon nach der Dotcom-Blase)
- Halluzinationen = Merkmal, kein Fehler (Rebecca Parsons)
- LLM erzeugt Halluzinationen, von denen einige nützlich sind
- Stets dieselbe Frage mehrfach stellen, Antworten vergleichen
- LLMs nicht für deterministische Berechnungen einsetzen
- KI markiert den Eintritt der Softwaretechnik in eine nicht-deterministische Welt
- LLM kann behaupten, "Tests laufen durch", obwohl Fehler vorliegen
- Massive Angriffsfläche: "lethal trifecta" (Simon Willison) = private Daten + nicht vertrauenswürdige Inhalte + Exfiltrationsfähigkeit
- Agentische Browser-Erweiterungen "grundlegend fehlerhaft", nicht sicher umsetzbar

## RésuméDe400mots

Martin Fowler teilt seine Überlegungen zu den Auswirkungen von Large Language Models (LLM) und künstlicher Intelligenz auf die Softwareentwicklung. Zunächst kritisiert er aktuelle Umfragen zu KI in der Entwicklung, da sie die unterschiedlichen Nutzungsweisen von LLMs nicht berücksichtigen. Die meiste Nutzung beschränkt sich auf Autovervollständigung, wie bei Copilot, während Nutzer, die den größten Mehrwert erzielen, Ansätze bevorzugen, bei denen LLMs Quellcode direkt lesen und bearbeiten können, um Aufgaben zu erledigen. Fowler befürchtet, dass unvollständige Umfragedaten Menschen zu schlechten Praktiken verleiten könnten.

Zur Zukunft der Programmierung gibt Fowler zu, dass er keine Ahnung hat, was geschehen wird. Er weist die Vorstellung zurück, dass irgendjemand mit Sicherheit vorhersagen könne, ob LLMs Junior-Entwickler überflüssig machen werden oder ob Senior-Entwickler den Beruf verlassen sollten. Stattdessen ermutigt er zu persönlichem Experimentieren und zum Austausch von Erfahrungen, um zu verstehen, wie sich diese sich ständig weiterentwickelnden Technologien am besten nutzen lassen.

Fowler geht auch der Frage nach, ob KI eine wirtschaftliche Blase ist. Seine Antwort lautet mit Nachdruck: "NATÜRLICH IST ES EINE BLASE." Er vergleicht die Situation mit früheren Technologieblasen (Kanäle, Eisenbahnen, das Internet) und stellt fest, dass es nahezu sicher sei, dass diese Blase platzen und zahlreiche Investitionen vernichten werde. Es sei jedoch unmöglich vorherzusagen, wann dies geschehen werde und wie viel realer Wert bis dahin geschaffen worden sei. Er merkt an, dass, wie schon beim Platzen der Dotcom-Blase, einige Unternehmen überleben und florieren werden, so wie Amazon.

Eine zentrale, von Rebecca Parsons inspirierte Idee, die Fowler entwickelt, ist, dass "Halluzinationen" von LLMs kein Fehler, sondern ein grundlegendes Merkmal sind. Ein LLM tut nichts anderes, als Halluzinationen zu erzeugen, von denen sich einige als nützlich erweisen. Diese nicht-deterministische Natur bedeutet, dass man einem LLM stets dieselbe Frage mehrfach stellen sollte, gegebenenfalls in umformulierter Form, um die Antworten zu vergleichen. Die Variation zwischen den Antworten kann ebenso aufschlussreich sein wie die Antworten selbst, insbesondere bei numerischen Daten. Er rät davon ab, ein LLM Berechnungen durchführen zu lassen, die sich deterministisch ermitteln lassen.

Fowler vergleicht die traditionelle Softwareentwicklung, die auf deterministischen Maschinen beruht, mit anderen Ingenieurdisziplinen, die der Variabilität der realen Welt Rechnung tragen müssen (Baustatik-Toleranzen, menschliches Versagen). Er vermutet, dass LLMs den Punkt markieren könnten, an dem die Softwaretechnik sich ihren Schwesterdisziplinen in einer Welt des Nicht-Determinismus anschließt. Zudem merkt er an, dass ein LLM, anders als ein Junior-Kollege, behaupten kann, "alle Tests laufen durch", obwohl tatsächlich Fehler vorliegen, was Fragen zur Zuverlässigkeit aufwirft.

Schließlich hebt der Artikel die erhebliche Vergrößerung der Angriffsfläche von Softwaresystemen durch LLMs hervor. Fowler zitiert Simon Willison und dessen "lethal trifecta" für KI-Agenten: Zugriff auf private Daten, Exposition gegenüber nicht vertrauenswürdigen Inhalten und die Fähigkeit zur Datenexfiltration. Er kommt zu dem Schluss, dass das Konzept einer Browser-Erweiterung, die als Agent agiert, grundlegend fehlerhaft ist und sich nicht sicher umsetzen lässt."

## GrapheDeConnaissance

- Martin Fowler —travaille_chez→ ThoughtWorks (ORGANISATION, 0.97)
- Martin Fowler —affirme_que→ l'IA est une bulle économique (AFFIRMATION, 0.99)
- bulle IA —est_variante_de→ bulle dot-com (EVENEMENT, 0.9)
- Rebecca Parsons —affirme_que→ les hallucinations LLM sont une fonctionnalité, pas un bug (AFFIRMATION, 0.95)
- hallucinations LLM —est_instance_de→ fonctionnalité fondamentale (CONCEPT, 0.92)
- non-déterminisme —observé_dans→ LLM (TECHNOLOGIE, 0.93)
- Simon Willison —a_créé→ Trifecta Mortelle (CONCEPT, 0.97)
- Trifecta Mortelle —est_basé_sur→ données privées + contenu non fiable + exfiltration (CONCEPT, 0.96)
- surface d'attaque élargie —observé_dans→ agents navigateur (TECHNOLOGIE, 0.91)
- Martin Fowler —s_oppose_à→ enquêtes IA actuelles (CONCEPT, 0.94)
- édition directe du code —surpasse→ auto-complétion (METHODOLOGIE, 0.88)
- LLM —permet→ faux positifs de tests (CONCEPT, 0.85)

---
Canonical: https://www.thekb.eu/de/fiches/martin-fowler-llm-software-development-2025-08-15/