Quali compiti affidare all'intelligenza artificiale, e quando gli esseri umani devono restare coinvolti? Per Beth Stackpole, che scrive su MIT Sloan Ideas Made to Matter a proposito dei lavori del MIT Center for Information Systems Research, progettare questi diritti decisionali è una delle sfide principali che le aziende devono affrontare. Ina Sebastian, Peter Weill, Thomas Haskamp e Jan vom Brocke hanno costruito la AI Decision Matrix a partire da interviste a 30 dirigenti, partendo da una premessa: non tutte le decisioni sono uguali.
La matrice incrocia due dimensioni. L'ambiguità misura in che misura i dati determinano la risposta e in che misura le persone sono d'accordo su di essa. Il rischio misura le conseguenze di un errore e la difficoltà di correggerlo. Ogni decisione ha tre componenti: framing (problema, ipotesi, vincoli, criteri di successo), acting (raccolta, valutazione, raccomandazione, autorizzazione, esecuzione) e learning (monitoraggio dei risultati, reazione ad essi, evoluzione del sistema).
Designing Decision Rights for AI
I quattro tipi risultanti richiedono ruoli diversi per l'IA, con una supervisione umana costante. Le decisioni di routine si prestano all'automazione: presso l'operatore telecom One New Zealand, un agente traduce le richieste dei marketer in query SQL per creare segmenti, riducendo il tempo impiegato del 60%, con revisione umana prima del lancio. Le decisioni consequenziali richiedono un equilibrio tra automazione e intervento: nel servizio clienti, qualsiasi decisione che riguarda il pricing mantiene un essere umano nel ciclo (human in the loop), poiché un errore di prezzo è considerato inaccettabile. Le decisioni esplorative permettono al framing di evolversi tra esseri umani e IA, come nella creazione di contenuti di marketing, con una governance monitorata man mano che la sperimentazione si sposta verso casi più rischiosi. Le decisioni strategiche richiedono una leadership umana: quindici agenti analizzano i dati di rete e agenti di orchestrazione li coordinano, ma i compromessi tra affidabilità, esperienza del cliente e costi restano umani.
L'articolo trae quattro pratiche da One New Zealand: affidare alle business unit la responsabilità del framing per ciascun caso d'uso, creare un centro di eccellenza per IA e dati (piattaforma unificata, livello di orchestrazione, politica di IA responsabile), nominare un owner umano per ogni agente distribuito, e gestire l'IA come un portfolio di decisioni aziendali. Le decisioni di routine e consequenziali generano rapidi guadagni di efficienza, mentre quelle esplorative e strategiche generano valore a più lungo termine. Gli autori riassumono il cambiamento: passare dalla domanda "dove si dovrebbe usare l'IA?" alla gestione delle decisioni che essa plasma.