L’AI non elimina i processi. Cambia ciò a cui servono

2 day_ago 8
ARTICLE AD BOX

di Fabio Moioli e Matt Calkins

Durante un pranzo a Roma, prima di condividere il palco a un evento Appian, ci siamo ritrovati a discutere di agenti AI. La domanda più interessante non riguardava quanto rapidamente stessero migliorando, ma qualcosa di apparentemente contraddittorio: se l’intelligenza artificiale diventa capace di scegliere da sola come raggiungere un obiettivo, perché i processi dovrebbero diventare più importanti, anziché meno?

Per anni abbiamo associato il processo alla rigidità e l’intelligenza alla flessibilità. Il primo prescriveva una sequenza; la seconda permetteva di capire quando modificarla. Da questa contrapposizione nasce l’idea che un software abbastanza intelligente possa rendere superfluo il processo. Ma forse stiamo confondendo la capacità di adattarsi con l’assenza di una struttura, e i processi con le istruzioni dettagliate.

Il paragone con i giochi da tavolo, che Matt Calkins progetta oltre a guidare Appian, aiuta a capire il punto. Un buon gioco non è interessante perché non ha regole, ma perché quelle regole creano uno spazio nel quale compiere scelte intelligenti. Eliminare ogni vincolo non rende necessariamente il gioco migliore. Qualcosa di simile vale per gli agenti AI: possono aver bisogno di meno istruzioni su ogni singolo passaggio, ma di una struttura che renda chiari i margini di autonomia, visibili le azioni e misurabili i risultati.

LEGGI ANCHE: L’IA rende le risposte abbondanti. Ma le buone decisioni restano scarse

La domanda non è dove possiamo mettere un agente

Un processo ben progettato non ha mai avuto soltanto la funzione di indicare che cosa fare dopo. Distribuisce il lavoro, rende visibili le eccezioni e crea occasioni per correggere gli errori. Le persone sbagliano, le informazioni sono incomplete e i giudizi possono divergere: controlli e passaggi di responsabilità servono anche a evitare che un errore comprometta l’intero risultato. Questa funzione diventa ancora più rilevante quando tra gli attori compare un sistema probabilistico, utile proprio perché sa affrontare situazioni che non possono essere ridotte interamente a regole.

Per questo partire dalla domanda “Dove possiamo usare gli agenti?” rischia di invertire il problema. Sarebbe più utile chiedersi dove il lavoro richieda davvero capacità di adattamento. Se un sistema basato su regole può gestire un’attività in modo affidabile e a costi contenuti, introdurre un agente non crea necessariamente valore. Se invece il contesto è ambiguo, le informazioni sono eterogenee o il percorso non può essere definito in anticipo, l’AI diventa molto più interessante.

Un’impresa dispone già di un insieme articolato di risorse: persone, software tradizionale, regole, automazione, apprendimento automatico e agenti. L’obiettivo non è affidare all’AI la percentuale più alta possibile del lavoro, ma scegliere la combinazione più adatta a ogni attività. La capacità tecnica, da sola, non costituisce una giustificazione economica. Contano il risultato, il costo, il giudizio richiesto e le conseguenze di un eventuale errore. Le imprese devono poter combinare l’adattabilità dell’AI con l’affidabilità richiesta da attività che servono clienti, spostano denaro o incidono sulle operazioni. Non è una gara tra esseri umani e macchine. È un problema di assegnazione del lavoro, nel quale ciascuna componente deve essere valutata anche in relazione alle altre.

Dal coordinamento delle attività alla delega di autorità

Quando un agente può scegliere il proprio percorso, il processo non deve necessariamente prescrivere ogni passaggio. Deve invece definire il risultato atteso, le informazioni e gli strumenti utilizzabili, le decisioni autorizzate e le condizioni che richiedono l’intervento di una persona. Il cambiamento riguarda quindi anche il coordinamento della discrezionalità: dove il sistema è libero di scegliere, dove quella libertà finisce e chi riprende il controllo.

L’autonomia, nelle aziende, non è soltanto una proprietà tecnica. È autorità delegata. Se un agente può approvare un rimborso, modificare i dati di un cliente o attivare una transazione, qualcuno ha deciso, esplicitamente o implicitamente, di attribuirgli quel potere. Il fatto che il sistema sia diventato più capace non rende meno importante questa scelta. Può anzi renderne più rilevanti le conseguenze. Occorre chiarire quali azioni debbano rimanere reversibili, quali richiedano conferma e quando la decisione debba tornare a una persona. Un modello migliore può aver bisogno di meno istruzioni, ma questo non rende automaticamente appropriati confini più deboli. La capacità di compiere un’azione e il diritto di compierla restano due questioni differenti.

Il processo comincia così ad assomigliare meno a un copione e più a una costituzione. Non descrive ogni mossa possibile, ma stabilisce responsabilità, limiti, margini di scelta e circostanze nelle quali serve un consenso ulteriore. Lascia spazio all’azione intelligente senza rendere opaca la distribuzione dell’autorità. Alla domanda “Che cosa succede dopo?” se ne aggiunge un’altra: “Chi è autorizzato a deciderlo?”. E la risposta non può provenire soltanto dal team tecnologico.

L’affidabilità si dimostra nei risultati, non nelle demo

La tecnologia tende a essere raccontata attraverso ciò che sorprende: un sistema affronta un problema inatteso, risolve un compito complesso o si comporta in modo quasi umano. Nel lavoro aziendale, però, spesso il sistema più prezioso è quello che non riserva sorprese. Una banca, un’assicurazione o un’amministrazione pubblica devono sapere se le azioni sono coerenti, verificabili e recuperabili, e se qualcuno continua a rispondere delle loro conseguenze.

Qui emerge una funzione decisiva dei processi: non soltanto sostenere l’affidabilità dell’AI, ma permettere di osservarla, misurarla e migliorarla. Quando il lavoro è progettato per essere tracciabile, diventa possibile ricostruire quali informazioni l’agente abbia utilizzato, quale decisione abbia preso, quali strumenti abbia attivato e quando abbia trasferito il caso a una persona. Senza questa visibilità, un risultato apparentemente buono può lasciare l’organizzazione senza elementi per capire gli errori o valutare se il sistema sia affidabile anche su scala maggiore. Non serve soltanto sapere che una pratica è stata completata: bisogna poter collegare la decisione al suo contesto e alle conseguenze. È questo legame che consente di passare dall’impressione che un agente lavori bene alla possibilità di verificare dove sia affidabile e dove richieda un controllo diverso.

La tracciabilità, tuttavia, non basta. Consideriamo un agente che gestisce una pratica assicurativa. Può chiuderla rapidamente e rispettare tutte le proprie autorizzazioni senza averla risolta correttamente. Il cliente ha dovuto richiamare? È stata ignorata un’eccezione? La decisione ha introdotto un rischio inaccettabile? Il numero di pratiche chiuse descrive un’attività, non necessariamente il valore prodotto. Occorre definire prima quali risultati contano, rilevarli con continuità e verificare che cosa accade dopo l’esecuzione. Un processo più veloce che ripete una decisione sbagliata non diventa affidabile soltanto perché automatizza di più.

Il feedback collega la strategia al comportamento dell’AI

Collegare le azioni ai risultati permette di apprendere dalla distanza tra ciò che il sistema avrebbe dovuto ottenere e ciò che ha effettivamente prodotto. Le evidenze possono suggerire istruzioni migliori, una revisione del modello, regole diverse, soglie più chiare per coinvolgere una persona o un cambiamento del processo stesso. Il feedback non riguarda quindi soltanto il perfezionamento della tecnologia: può mostrare che l’azienda ha assegnato male un compito o definito in modo inadeguato il risultato atteso.

Non bisogna però confondere il feedback con una correzione automatica garantita. Alcuni segnali sono ambigui, altri arrivano settimane dopo; soprattutto, un sistema può diventare molto efficace nell’ottimizzare la metrica sbagliata. Un agente premiato soltanto per la rapidità potrebbe chiudere una pratica troppo presto. Un assistente valutato soltanto sulla capacità di trattenere le richieste nel canale automatico potrebbe evitare un passaggio necessario a un operatore. In entrambi i casi il numero migliora, mentre il servizio può peggiorare.

Ogni impresa ha obiettivi, ma dire che l’AI debba essere allineata alla strategia non li rende automaticamente operativi. Occorre tradurli in risultati osservabili, considerando insieme qualità, rischio, esperienza del cliente e costi. Qualcuno deve assumersi la responsabilità dei compromessi tra queste dimensioni. Il processo diventa il collegamento tra le intenzioni del management e il comportamento concreto dell’AI: rende possibile verificare se l’allineamento continua a esistere quando cambiano le condizioni e intervenire quando si perde. L’affidabilità, in questa prospettiva, non è una proprietà dimostrata una volta in laboratorio. È una disciplina continua di misurazione, apprendimento e governo.

Un essere umano nel diagramma non è ancora governance

La stessa precisione serve quando parliamo di controllo umano. Inserire una persona in un flusso di lavoro non crea automaticamente una supervisione efficace. Bisogna chiarire perché debba intervenire e quali informazioni riceva: perché la conseguenza è irreversibile, perché il caso è insolito, perché il risultato si sta allontanando dall’obiettivo o perché la relazione richiede empatia? Sono situazioni diverse, che richiedono responsabilità, evidenze e modalità di intervento diverse. A volte la presenza umana dipende semplicemente dal fatto che l’organizzazione non si fida ancora dell’automazione. Anche questa motivazione va resa esplicita: è diversa dalla necessità di comprendere una situazione insolita o di assumersi una responsabilità particolarmente delicata. Mettere tutte queste esigenze sotto la stessa etichetta impedisce di progettare un controllo adeguato.

L’obiettivo non dovrebbe essere tenere le persone ovunque, né eliminarle ovunque. Dovrebbe essere concentrare il giudizio umano nei punti in cui può modificare davvero l’esito, assicurando a chi resta responsabile la possibilità di vedere e cambiare le decisioni. Se i risultati misurati mostrano uno scostamento, non basta che qualcuno riceva una segnalazione: deve poter intervenire. Il ruolo umano diventa più specifico, concentrato su ambiguità, eccezioni, conseguenze e interpretazione del feedback.

Meno prescrizioni, più capacità di imparare

Il paradosso iniziale si risolve distinguendo il processo dalla prescrizione. Un’AI più capace può richiedere meno indicazioni su come svolgere ogni attività. Non per questo richiede meno chiarezza su ciò che è autorizzata a decidere, sui risultati per i quali viene valutata e su come l’organizzazione debba reagire quando sbaglia. I processi hanno già funzioni di controllo e miglioramento; con gli agenti, queste diventano ancora più centrali rispetto alla semplice sequenza dei compiti.

Per chi guida un’impresa, la questione non è scegliere tra AI e processi, ma ripensare questi ultimi affinché coordinino anche autorità, discrezionalità e apprendimento. Più il sistema opera in autonomia, più diventa importante giudicarlo attraverso le conseguenze delle sue azioni, non attraverso la plausibilità delle spiegazioni. La domanda decisiva non è soltanto che cosa l’AI sappia fare, ma che cosa siamo disposti a delegarle, come verificheremo il risultato e che cosa cambieremo quando non sarà quello atteso.

L’articolo L’AI non elimina i processi. Cambia ciò a cui servono è tratto da Forbes Italia.

read-entire-article