# martin-fowler-llm-software-development-2025-08-15

## Veille

Some thoughts on LLMs and Software Development - AI Bubble - Hallucinations - Security - Martin Fowler

## Titre Article

Some thoughts on LLMs and Software Development

## Date

2025-08-15

## URL

https://martinfowler.com/articles/202508-ai-thoughts.html

## Keywords

LLM, IA, desarrollo de software, burbuja, alucinaciones, no determinismo, seguridad, superficie de ataque, Martin Fowler

## Authors

Martin Fowler

## Ton

**Profile:** Sabio de la industria, reflexivo | Primera persona, autoridad | Analítico-Equilibrado | Experto

Fowler (Chief Scientist en ThoughtWorks) adopta una voz mesurada y con autoridad, ofreciendo una perspectiva matizada sobre la IA en el desarrollo de software. Su característica honestidad intelectual ("OF COURSE IT'S A BUBBLE") demuestra su disposición a enunciar verdades incómodas. El lenguaje reflexivo y equilibrado (las alucinaciones como característica, los desafíos del no determinismo, las implicaciones de seguridad) evita tanto el triunfalismo como el desdén. El tono es el de la sabiduría del practicante experimentado, acumulada a lo largo de décadas de evolución del software. La estructura de ensayo exploratorio, típica de la escritura de Fowler, invita al lector al pensamiento crítico. Típico de los líderes de opinión de la industria del software (al estilo de Kent Beck, Robert Martin), que ofrecen perspectivas mesuradas fundadas en una experiencia profunda, dirigidas a profesionales que buscan un equilibrio frente al hype.

## Pense-betes

- Las encuestas actuales sobre IA no son fiables: no distinguen los patrones de uso (autocompletado vs edición directa de código)
- La edición directa de código por IA aporta mucho más valor que el autocompletado
- Futuro de la programación: incierto, nadie lo sabe realmente
- "OF COURSE IT'S A BUBBLE" - como los canales, los ferrocarriles, internet
- La burbuja estallará, pero algunas empresas sobrevivirán y prosperarán (como Amazon tras las puntocom)
- Alucinaciones = característica, no defecto (Rebecca Parsons)
- El LLM produce alucinaciones, algunas de las cuales son útiles
- Formular siempre la misma pregunta varias veces, comparar las respuestas
- No pedir a los LLM cálculos deterministas
- La IA marca la entrada de la ingeniería de software en un mundo no determinista
- Un LLM puede afirmar que "las pruebas pasan" cuando hay fallos
- Superficie de ataque masiva: "trifecta letal" (Simon Willison) = datos privados + contenido no confiable + capacidad de exfiltración
- Extensiones de navegador agénticas "fundamentalmente defectuosas", imposibles de construir de forma segura

## RésuméDe400mots

Martin Fowler comparte sus reflexiones sobre el impacto de los grandes modelos de lenguaje (LLM) y la inteligencia artificial en el desarrollo de software. Comienza criticando las encuestas actuales sobre IA en el desarrollo, señalando que no logran captar las distintas formas en que los desarrolladores usan los LLM. La mayor parte del uso se limita al autocompletado, como con Copilot, mientras que los usuarios que obtienen más valor prefieren enfoques que permiten a los LLM leer y editar directamente el código fuente para realizar tareas. Fowler expresa su preocupación por que datos de encuesta incompletos puedan orientar a las personas hacia malas prácticas.

En cuanto al futuro de la programación, Fowler admite que no tiene idea de lo que ocurrirá. Rechaza la idea de que alguien pueda predecir con certeza si los LLM eliminarán a los ingenieros junior o si los seniors deberían abandonar la profesión. En su lugar, anima a la experimentación personal y a compartir experiencias para comprender cómo aprovechar mejor estas tecnologías en constante evolución.

Fowler también aborda si la IA constituye una burbuja económica. Su respuesta es un enfático "OF COURSE IT'S A BUBBLE". Compara la situación con burbujas tecnológicas pasadas (canales, ferrocarriles, internet), afirmando que es casi seguro que esta burbuja estallará, arrasando con muchas inversiones. Sin embargo, es imposible predecir cuándo ocurrirá esto y cuánto valor real se habrá generado para entonces. Señala que, al igual que con el estallido de las puntocom, algunas empresas sobrevivirán y prosperarán, como lo hizo Amazon.

Una idea clave que Fowler desarrolla, inspirada en Rebecca Parsons, es que las "alucinaciones" de los LLM no son un defecto sino una característica fundamental. Un LLM no hace más que producir alucinaciones, algunas de las cuales resultan útiles. Esta naturaleza no determinista implica que siempre conviene formular la misma pregunta a un LLM varias veces, eventualmente reformulándola, para comparar las respuestas. La variación entre respuestas puede ser tan informativa como las respuestas mismas, especialmente para datos numéricos. Aconseja no pedir a un LLM que calcule respuestas que pueden obtenerse de forma determinista.

Fowler compara el desarrollo de software tradicional, que se apoya en máquinas deterministas, con otras formas de ingeniería que deben tener en cuenta la variabilidad del mundo real (tolerancias estructurales, error humano). Sugiere que los LLM podrían marcar el momento en que la ingeniería de software se une a sus disciplinas hermanas en un mundo no determinista. Señala también que, a diferencia de un colega junior, un LLM puede afirmar que "todas las pruebas pasan" cuando en realidad hay fallos, lo cual plantea interrogantes sobre su fiabilidad.

Finalmente, el artículo destaca el considerable aumento de la superficie de ataque de los sistemas de software provocado por los LLM. Fowler cita a Simon Willison y su "trifecta letal" para los agentes de IA: acceso a datos privados, exposición a contenido no confiable y capacidad de exfiltrar datos. Concluye que el propio concepto de una extensión de navegador que actúe como agente es fundamentalmente defectuoso y no puede construirse de forma segura.

## GrapheDeConnaissance

- Martin Fowler —travaille_chez→ ThoughtWorks (ORGANISATION, 0.97)
- Martin Fowler —affirme_que→ l'IA est une bulle économique (AFFIRMATION, 0.99)
- bulle IA —est_variante_de→ bulle dot-com (EVENEMENT, 0.9)
- Rebecca Parsons —affirme_que→ les hallucinations LLM sont une fonctionnalité, pas un bug (AFFIRMATION, 0.95)
- hallucinations LLM —est_instance_de→ fonctionnalité fondamentale (CONCEPT, 0.92)
- non-déterminisme —observé_dans→ LLM (TECHNOLOGIE, 0.93)
- Simon Willison —a_créé→ Trifecta Mortelle (CONCEPT, 0.97)
- Trifecta Mortelle —est_basé_sur→ données privées + contenu non fiable + exfiltration (CONCEPT, 0.96)
- surface d'attaque élargie —observé_dans→ agents navigateur (TECHNOLOGIE, 0.91)
- Martin Fowler —s_oppose_à→ enquêtes IA actuelles (CONCEPT, 0.94)
- édition directe du code —surpasse→ auto-complétion (METHODOLOGIE, 0.88)
- LLM —permet→ faux positifs de tests (CONCEPT, 0.85)

---
Canonical: https://www.thekb.eu/es/fiches/martin-fowler-llm-software-development-2025-08-15/