L’IA non cambia solo la customer experience: cambia chi decide dentro le aziende

di Fabio Moioli e Francesca Gabrielli

Come cambia l’esperienza quando si passa da un’app a una chat, da un assistente vocale a un operatore umano; perché alcune interazioni apparentemente più intelligenti finiscono paradossalmente per richiedere più fatica; cosa succede quando aziende molto sofisticate dal punto di vista tecnologico continuano a costringere gli utenti a raccontare la stessa storia ogni volta che cambia canale. Se un sistema di AI non si limita più ad aiutare il cliente a orientarsi, ma può decidere cosa fare dopo e, soprattutto, può eseguire quella decisione, siamo ancora soltanto nel campo della Customer Experience? Oppure stiamo iniziando a parlare di autorità, responsabilità e organizzazione?

È da qui che nasce una tesi apparentemente semplice: il canale non è neutro. Un sito web, un’app, una chat, un assistente vocale e un agente AI non sono semplicemente porte diverse per entrare nella stessa azienda. Ognuna di queste interfacce cambia quanto il cliente deve capire, ricordare e decidere. E ora che l’AI sta passando dal rispondere all’agire, il canale può cambiare qualcosa di ancora più importante: chi prende la decisione.

Quando rendiamo la tecnologia più intelligente, di chi stiamo riducendo il lavoro?

Un esempio. Un sistema di autenticazione vocale le aveva chiesto un’informazione semplice. Lei aveva risposto correttamente (la sua età per autenticarsi), ma il sistema aveva rifiutato la risposta. Secondo tentativo, stesso risultato. Terzo tentativo, ancora nulla. Alla fine, la chiamata era stata trasferita a un operatore. Non era successo niente di particolarmente grave. Nessuna allucinazione clamorosa, nessun incidente di sicurezza, nessun fallimento tecnologico da prima pagina. Semplicemente, un’esperienza molto frustrante. Il punto è che la stessa operazione cambia profondamente a seconda del canale. In un modulo web posso vedere quello che ho scritto, fermarmi, rileggerlo, tornare indietro e correggerlo. In una conversazione vocale questi piccoli vantaggi spariscono. Non posso “rileggere” quello che ho appena detto. Anche il silenzio ha un significato diverso: un secondo di attesa davanti a una pagina che carica non è la stessa cosa di un secondo di silenzio dentro una conversazione. Il compito è identico, ma il costo cognitivo non lo è.

Jakob Nielsen ha descritto una parte di questo problema parlando di articulation barrier: spiegare chiaramente a un sistema ciò che vogliamo può richiedere molto più sforzo cognitivo che scegliere tra opzioni ben progettate. E questa osservazione diventa ancora più interessante nel momento in cui passiamo da sistemi nei quali specifichiamo passo per passo cosa fare a sistemi ai quali diciamo semplicemente quale risultato vogliamo ottenere.

Da qui nasce una domanda che le aziende dovrebbero porsi molto più spesso quando celebrano i benefici dell’automazione: quando rendiamo la tecnologia più intelligente, di chi stiamo realmente riducendo il lavoro? Un’azienda può automatizzare attività interne e contemporaneamente aumentare il lavoro richiesto al cliente. Può ridurre l’handling time e aumentare lo sforzo cognitivo dall’altra parte. Può rendere più efficiente il proprio processo trasferendo semplicemente una parte del lavoro fuori dall’organizzazione. Non è necessariamente un fallimento dell’AI. A volte è un fallimento nel capire dove il lavoro è finito.

Il cliente non dovrebbe mai diventare il middleware dell’azienda

Un secondo episodio rende il problema ancora più evidente. Entrare in un negozio per risolvere una questione contrattuale. All’ingresso, un totem digitale le aveva chiesto il motivo della visita. Lei aveva descritto il problema, ricevuto un numero e aspettato il proprio turno. Qualche minuto dopo era arrivata allo sportello. La prima domanda dell’operatore era stata: “Come posso aiutarla?”. Ha quindi dovuto spiegare tutto da capo. Il totem sapeva perché il cliente fosse lì. La persona davanti a lei no. La frase con cui ha descritto quella situazione mi è rimasta impressa: “Ero io il livello di integrazione tra i sistemi.”

È un’esperienza che quasi tutti conosciamo. Il risponditore automatico ci chiede perché stiamo chiamando e trenta secondi dopo l’operatore umano ci pone esattamente la stessa domanda. Una chatbot passa dieci minuti a capire il problema, ma quando trasferisce il caso a una persona tutto quel contesto scompare. L’app conosce perfettamente ciò che abbiamo fatto il giorno prima, mentre l’operatore in negozio riparte da zero. Le aziende tendono a pensare per canali perché sono organizzate per canali: digitale, retail, customer care, CRM, oggi magari anche un team dedicato all’AI. Il cliente, però, non vede nessuna di queste caselle dell’organigramma. Vede una sola azienda. Secondo Zendesk, l’81% dei clienti vorrebbe che l’interazione riprendesse esattamente dal punto in cui era stata lasciata, mentre il 74% dichiara frustrazione quando deve ripetere più volte le stesse informazioni. Questo suggerisce anche una metrica molto semplice, che forse dovremmo iniziare a osservare accanto alle metriche tradizionali di Customer Experience: quante volte un cliente deve ripetersi durante il proprio percorso?

Potremmo chiamarlo repetition rate. Il nome conta relativamente. Ciò che conta è ciò che misura: ogni ripetizione non necessaria indica che il cliente sta portando con sé più contesto di quanto ne stia portando l’organizzazione.

BCG parla di continuity nell’analizzare la Customer Experience nell’era dell’AI. È una parola utile perché sposta l’attenzione dall’intelligenza del singolo touchpoint alla capacità del contesto di viaggiare insieme al cliente. E a quel punto ciò che sembrava un problema di esperienza utente diventa inevitabilmente un problema di architettura, dati, ownership, processi e organizzazione.

Un chatbot può dare una risposta sbagliata. Un agente AI può compiere un’azione sbagliata

È qui che la conversazione cambia natura. Per anni, il fallimento più evidente di un sistema AI rivolto al cliente era una risposta sbagliata. Un chatbot forniva un’informazione errata. Il cliente la leggeva. Poteva contestarla, ignorarla o chiedere di parlare con una persona. Con gli agenti AI il problema è diverso. Un agente può effettuare una prenotazione, modificare un dato, classificare un reclamo, autorizzare una transazione, instradare un caso o attivare un altro processo. L’errore quindi non è più soltanto una frase che possiamo leggere e valutare. Può diventare un’azione. E talvolta ci accorgiamo dell’errore solo quando quell’azione ha già prodotto altre conseguenze. A questo punto l’autonomia non è più soltanto una caratteristica tecnica.

È autorità delegata. Quando un agente AI può agire per conto di un’azienda, qualcuno, esplicitamente o implicitamente, ha deciso cosa quel sistema può fare senza chiedere il permesso a nessun altro. Per questo “L’AI è in grado di farlo?” sta diventando una domanda insufficiente. Dovremmo chiedere anche: dovrebbe essere autorizzata a farlo? In quali circostanze? Quanto è rilevante la conseguenza? L’azione è reversibile? Quando il sistema deve fermarsi e chiedere conferma? E, se sbaglia, chi rimane responsabile del risultato?

Pensiamo a due sistemi che definiamo entrambi “agenti AI”. Il primo risponde alla domanda sugli orari di apertura di un negozio. Il secondo autorizza un rimborso da 10mila euro. Potrebbero persino utilizzare tecnologie simili, ma il significato organizzativo della loro autonomia è completamente diverso. Non possono avere gli stessi controlli, gli stessi meccanismi di escalation o la stessa tolleranza all’errore. Questo porta a una delle domande più interessanti per chi oggi sta progettando la governance dell’AI: e se l’unità più utile da governare non fosse il modello, ma la decisione?

Quale decisione stiamo delegando? Cosa succede se è sbagliata? Possiamo tornare indietro? Quanto lontano possono propagarsi le conseguenze prima che qualcuno se ne accorga? Chi mantiene l’accountability? Sono domande difficili da risolvere guardando soltanto l’architettura tecnologica, perché parlano di come è distribuita l’autorità dentro l’organizzazione.

La fiducia non è un problema di tono di voce

Nelle discussioni sull’AI aziendale utilizziamo continuamente la parola “fiducia”. Spesso, però, la trattiamo come un problema di comunicazione: spiegare che stiamo usando l’AI, rendere il sistema trasparente, scegliere un tono rassicurante, inserire un disclaimer, ricordare al cliente che da qualche parte esiste ancora un essere umano “in the loop”. Sono tutti elementi che possono avere un ruolo. Ma le persone imparano a fidarsi di un sistema soprattutto osservando come si comporta. Ricorda ciò che è già successo oppure mi costringe a ricominciare? Si comporta in modo coerente? Posso vedere i passaggi che contano davvero senza dover controllare ogni micro-decisione? Posso interrompere un’azione importante prima che diventi irreversibile? E quando qualcosa va storto, l’azienda è in grado di recuperare la situazione oppure devo ripartire dall’inizio?

Nella nostra conversazione sono emersi quattro principi particolarmente utili: visibilità calibrata, reversibilità, coerenza comportamentale e una via di recupero semplice. Sembrano principi di design. Nel momento in cui l’AI inizia a compiere azioni con conseguenze reali, diventano contemporaneamente principi di gestione del rischio.

Abbiamo visto questo equilibrio funzionare in un servizio clienti dove un agente AI classifica e instrada le richieste. Gestisce autonomamente i casi standard, segnala quelli ambigui a un operatore spiegando brevemente il motivo e non interviene su categorie più delicate, per esempio reclami formali o richieste di natura legale. Con il tempo, le persone che lavorano con il sistema sviluppano una comprensione piuttosto precisa di ciò che può fare bene e dei casi in cui restituirà il controllo. Questo permette di distinguere due concetti che spesso confondiamo.

L’obiettivo non dovrebbe essere massimizzare l’autonomia, ma trovare l’autonomia appropriata. Allo stesso modo non dovremmo cercare di massimizzare la fiducia nell’AI, ma di costruire una fiducia calibrata: una comprensione sufficientemente corretta di dove il sistema è affidabile, dove ha dei limiti e quando il controllo cambia mano.

Quando il design diventa governance

Pochi anni fa sarebbe sembrato esagerato dire che lo User-Centered Design potesse diventare una componente dell’infrastruttura di rischio di un’azienda. Oggi mi sembra sempre più letterale. Se un sistema AI si limita a suggerire, una cattiva scelta di design genera soprattutto frizione. Se un agente AI può agire, il punto nel quale il sistema decide di fermarsi e chiedere conferma può determinare se un’azione viene eseguita automaticamente oppure no. Quel passaggio non è più semplicemente un dettaglio dell’interazione: è il confine tra autonomia della macchina e autorità umana. E una volta visto il problema in questo modo, molti confini organizzativi tradizionali iniziano a perdere nitidezza. La Customer Experience non può definire quel confine da sola. Non può farlo da sola l’IT. Risk e compliance non possono limitarsi ad aggiungere controlli a valle. E il business non può semplicemente approvare un sistema disegnato interamente da altri.

Experience design, process design, architettura tecnologica, governance e operating model stanno iniziando a incontrarsi nello stesso percorso AI-enabled. Forse questo sarà uno degli effetti organizzativi meno appariscenti, ma più profondi, dell’agentic AI. Non necessariamente ridisegneremo gli organigrammi attorno agli agenti artificiali. Ma molti dei confini tra funzioni diventeranno più difficili da mantenere quando l’interfaccia stessa sarà in grado di interpretare un’intenzione, prendere una decisione e compiere un’azione.

Prima della prossima demo di AI, quindi, proverei a fare tre domande molto semplici: abbiamo misurato lo sforzo cognitivo reale che questo canale richiede al cliente, oppure abbiamo dato per scontato che una conversazione sia sempre più facile? Quante volte il cliente deve ripetere le stesse informazioni attraversando la nostra organizzazione? Abbiamo deciso esplicitamente dove i nostri agenti AI devono fermarsi oppure scopriremo quel confine soltanto dopo un errore?

Abbiamo cominciato parlando di canali e finiamo parlando di decisioni. Questo dice molto della direzione nella quale l’AI sta portando la Customer Experience.

Le aziende che faranno meglio non saranno necessariamente quelle con il maggior numero di touchpoint alimentati dall’intelligenza artificiale. Saranno quelle nelle quali il contesto riuscirà a muoversi naturalmente tra sistemi e persone, il cliente non dovrà compensare la frammentazione organizzativa e l’AI avrà abbastanza autonomia da essere utile senza far scomparire la responsabilità.

Il canale non è mai stato neutro. Ora che può anche decidere e agire, progettarlo non è più soltanto una questione di interfaccia. È diventato un tema di leadership. 

L’articolo L’IA non cambia solo la customer experience: cambia chi decide dentro le aziende è tratto da Forbes Italia.