# martin-fowler-llm-software-development-2025-08-15

## Veille

Alcune riflessioni sugli LLM e lo sviluppo software - Bolla dell'IA - Allucinazioni - Sicurezza - Martin Fowler

## Titre Article

Some thoughts on LLMs and Software Development

## Date

2025-08-15

## URL

https://martinfowler.com/articles/202508-ai-thoughts.html

## Keywords

LLM, IA, sviluppo software, bolla, allucinazioni, non-determinismo, sicurezza, superficie di attacco, Martin Fowler

## Authors

Martin Fowler

## Ton

**Profilo:** Saggio del settore, riflessivo | Prima persona, autorevole | Analitico-Equilibrato | Esperto

Fowler (Chief Scientist presso ThoughtWorks) adotta una voce autorevole e misurata, offrendo una prospettiva sfumata sull'IA nello sviluppo software. La sua caratteristica onestà intellettuale ("OVVIAMENTE È UNA BOLLA") dimostra la sua disponibilità a dichiarare verità scomode. Il linguaggio riflessivo ed equilibrato (le allucinazioni come caratteristica, le sfide del non-determinismo, le implicazioni per la sicurezza) evita sia il trionfalismo sia lo scetticismo sprezzante. Il tono è quello della saggezza del praticante esperto, accumulata in decenni di evoluzione del software. La struttura del saggio esplorativo, tipica della scrittura di Fowler, incoraggia il pensiero critico nel lettore. Tipico dei leader di pensiero del settore software (nello stile di Kent Beck, Robert Martin), che offrono prospettive misurate radicate in una profonda esperienza, rivolte a professionisti in cerca di un equilibrio nel bel mezzo dell'hype.

## Pense-betes

- Gli attuali sondaggi sull'IA non sono affidabili: non distinguono i modelli d'uso (auto-completamento vs modifica diretta del codice)
- La modifica diretta del codice da parte dell'IA offre molto più valore rispetto all'auto-completamento
- Futuro della programmazione: incerto, nessuno lo sa davvero
- "OVVIAMENTE È UNA BOLLA" - come i canali, le ferrovie, internet
- La bolla scoppierà, ma alcune aziende sopravviveranno e prospereranno (come Amazon dopo le dot-com)
- Allucinazioni = caratteristica, non difetto (Rebecca Parsons)
- L'LLM produce allucinazioni, alcune delle quali sono utili
- Porre sempre la stessa domanda più volte, confrontare le risposte
- Non chiedere agli LLM calcoli deterministici
- L'IA segna l'ingresso dell'ingegneria del software in un mondo non deterministico
- L'LLM può affermare che "i test passano" quando ci sono fallimenti
- Superficie di attacco enorme: "triade letale" (Simon Willison) = dati privati + contenuti non attendibili + capacità di esfiltrazione
- Le estensioni del browser agentiche sono "fondamentalmente difettose", impossibili da costruire in modo sicuro

## RésuméDe400mots

Martin Fowler condivide le proprie riflessioni sull'impatto dei large language model (LLM) e dell'intelligenza artificiale sullo sviluppo software. Inizia criticando gli attuali sondaggi sull'IA nello sviluppo, rilevando che non tengono conto dei diversi modi in cui gli sviluppatori usano gli LLM. La maggior parte dell'uso si limita all'auto-completamento, come con Copilot, mentre gli utenti che ne traggono maggior valore preferiscono approcci che permettono agli LLM di leggere e modificare direttamente il codice sorgente per portare a termine i compiti. Fowler teme che dati di sondaggio incompleti possano orientare le persone verso pratiche scadenti.

Riguardo al futuro della programmazione, Fowler ammette di non avere idea di cosa accadrà. Respinge l'idea che chiunque possa prevedere con certezza se gli LLM elimineranno gli ingegneri junior o se i senior debbano lasciare la professione. Incoraggia invece la sperimentazione personale e la condivisione delle esperienze per capire come usare al meglio queste tecnologie in continua evoluzione.

Fowler affronta anche la questione se l'IA sia una bolla economica. La sua risposta è un enfatico "OVVIAMENTE È UNA BOLLA". Paragona la situazione a bolle tecnologiche passate (canali, ferrovie, internet), affermando che è quasi certo che questa bolla scoppierà, spazzando via molti investimenti. Tuttavia, è impossibile prevedere quando ciò accadrà e quanto valore reale sarà stato generato nel frattempo. Osserva che, come nel crollo delle dot-com, alcune aziende sopravviveranno e prospereranno, come fece Amazon.

Un'idea chiave sviluppata da Fowler, ispirata da Rebecca Parsons, è che le "allucinazioni" degli LLM non sono un difetto ma una caratteristica fondamentale. Un LLM non fa altro che produrre allucinazioni, alcune delle quali si rivelano utili. Questa natura non deterministica implica che si dovrebbe sempre porre allo stesso LLM la stessa domanda più volte, eventualmente riformulandola, per confrontare le risposte. La variazione tra le risposte può essere altrettanto informativa quanto le risposte stesse, in particolare per i dati numerici. Sconsiglia di chiedere a un LLM di calcolare risposte ottenibili in modo deterministico.

Fowler paragona lo sviluppo software tradizionale, che si basa su macchine deterministiche, ad altre forme di ingegneria che devono tenere conto della variabilità del mondo reale (tolleranze strutturali, errore umano). Suggerisce che gli LLM potrebbero segnare il momento in cui l'ingegneria del software si unisce alle discipline affini in un mondo di non-determinismo. Osserva inoltre che, a differenza di un collega junior, un LLM può affermare che "tutti i test passano" quando in realtà ci sono fallimenti, il che solleva interrogativi sull'affidabilità.

Infine, l'articolo evidenzia il notevole aumento della superficie di attacco dei sistemi software causato dagli LLM. Fowler cita Simon Willison e la sua "triade letale" per gli agenti IA: accesso a dati privati, esposizione a contenuti non attendibili e capacità di esfiltrare dati. Conclude che il concetto stesso di un'estensione del browser che agisce come agente è fondamentalmente difettoso e non può essere costruito in modo sicuro.

## GrapheDeConnaissance

- Martin Fowler —travaille_chez→ ThoughtWorks (ORGANISATION, 0.97)
- Martin Fowler —affirme_que→ l'IA est une bulle économique (AFFIRMATION, 0.99)
- bulle IA —est_variante_de→ bulle dot-com (EVENEMENT, 0.9)
- Rebecca Parsons —affirme_que→ les hallucinations LLM sont une fonctionnalité, pas un bug (AFFIRMATION, 0.95)
- hallucinations LLM —est_instance_de→ fonctionnalité fondamentale (CONCEPT, 0.92)
- non-déterminisme —observé_dans→ LLM (TECHNOLOGIE, 0.93)
- Simon Willison —a_créé→ Trifecta Mortelle (CONCEPT, 0.97)
- Trifecta Mortelle —est_basé_sur→ données privées + contenu non fiable + exfiltration (CONCEPT, 0.96)
- surface d'attaque élargie —observé_dans→ agents navigateur (TECHNOLOGIE, 0.91)
- Martin Fowler —s_oppose_à→ enquêtes IA actuelles (CONCEPT, 0.94)
- édition directe du code —surpasse→ auto-complétion (METHODOLOGIE, 0.88)
- LLM —permet→ faux positifs de tests (CONCEPT, 0.85)

---
Canonical: https://www.thekb.eu/it/fiches/martin-fowler-llm-software-development-2025-08-15/