Gli agenti di intelligenza artificiale stanno uscendo dalla fase in cui si limitavano a rispondere a una domanda. Possono consultare più sistemi, aggiornare un campo, aprire una pratica, inviare una comunicazione o coordinare passaggi successivi. È un cambiamento importante: l’output non è più soltanto un testo da leggere, ma un’azione che modifica il lavoro.

Il recente Agentic Enterprise Index 2026 di Salesforce descrive questa evoluzione attraverso le Agentic Work Unit, cioè attività discrete completate da un agente. È una misura utile per osservare l’adozione, ma la fonte riguarda una coorte di imprese che usa Agentforce e non rappresenta l’intero mercato. Soprattutto, il numero di attività completate non dice da solo se il risultato sia corretto, reversibile o autorizzato.

Il passaggio decisivo è quindi dal volume al controllo. Un agente operativo va misurato come una componente di processo: non soltanto per ciò che produce, ma per il modo in cui gestisce eccezioni, permessi e conseguenze.

Una attività completata non coincide con un risultato utile

Un’azione può essere tecnicamente riuscita e produrre un esito sbagliato. Un ticket chiuso non dimostra che il problema del cliente sia risolto; un record aggiornato non dimostra che il dato sia corretto; una richiesta inoltrata non dimostra che il destinatario fosse quello previsto. Se il cruscotto registra soltanto il completamento, l’automazione può apparire efficiente mentre trasferisce il lavoro agli addetti che devono correggerla.

Per evitare questo equivoco, ogni unità di lavoro dovrebbe essere collegata a un esito verificabile. Non serve una metrica universale. In un processo di assistenza può essere la riapertura della pratica entro sette giorni; in amministrazione la percentuale di operazioni corrette senza rettifica; in un flusso documentale la quota di casi approvati dopo il controllo previsto. L’indicatore deve descrivere il valore per il processo, non l’attività del software.

Cinque misure per governare un agente in produzione

Un quadro minimo può essere costruito con cinque misure, da adattare al contesto:

• Esito utile: quante attività producono il risultato atteso senza correzioni o riaperture entro un intervallo definito.
• Tasso di eccezione: quanti casi escono dal percorso normale perché mancano dati, le regole entrano in conflitto o il sistema non è sufficientemente sicuro della scelta.
• Escalation appropriata: quanti casi vengono trasferiti a una persona nel punto previsto e con il contesto necessario, distinguendo una corretta rinuncia ad agire da un fallimento.
• Superficie dei permessi: quali sistemi, dati e azioni sono accessibili all’agente e quanti di questi privilegi sono realmente usati nel periodo osservato.
• Costo di ripristino: tempo, passaggi e persone necessari per annullare un’azione errata e riportare il processo a uno stato affidabile.

Queste misure cambiano anche il significato dell’efficienza. Un agente che completa meno pratiche ma riconosce correttamente i casi ambigui può essere più utile di uno che automatizza tutto e genera rettifiche invisibili. Allo stesso modo, un’automazione veloce con accesso permanente a molti sistemi può avere un profilo di rischio peggiore di un agente più limitato che ottiene permessi temporanei per una sola attività.

Misurare il ripristino prima dell’incidente

Il costo di ripristino merita una prova specifica. Prima di ampliare l’autonomia, il team può simulare un errore controllato: un aggiornamento a un record di prova, una pratica instradata nel percorso sbagliato o un messaggio preparato con un destinatario fittizio. L’obiettivo non è verificare se il modello “ragiona bene”, ma se l’organizzazione sa individuare l’azione, fermare il flusso, ricostruire la sequenza e ripristinare lo stato precedente.

Il test dovrebbe lasciare quattro evidenze: identità dell’agente e versione della configurazione; strumenti e permessi utilizzati; azioni effettuate con data e ora; decisione umana che ha autorizzato, corretto o interrotto il processo. Se una di queste informazioni manca, il problema non riguarda soltanto il modello: riguarda l’architettura del controllo.

Il NIST AI Risk Management Framework Playbook propone di collegare governo, mappatura, misurazione e gestione del rischio lungo il ciclo di vita. È un riferimento volontario, non una certificazione, ma offre una logica utile: le misure devono condurre a una decisione. Una soglia che nessuno sa interpretare o che non attiva alcuna risposta è soltanto un numero in più.

Permessi proporzionati e condizioni di arresto

Per un agente, la qualità dell’output non può essere separata dall’autorità concessa. Leggere una base documentale, proporre una modifica e applicarla in produzione sono tre livelli diversi. Il principio operativo è concedere il minimo necessario, limitare durata e ambito quando possibile e rendere esplicito chi può aumentare l’autonomia.

Ogni capacità dovrebbe avere almeno una condizione di arresto osservabile: dati mancanti, conflitto tra fonti, importo sopra soglia, richiesta che coinvolge categorie particolari di dati, variazione anomala del tasso di eccezione, impossibilità di registrare l’azione. Fermarsi, in questi casi, è una funzione del sistema e non una sconfitta del progetto.

Per i sistemi classificati ad alto rischio, il Regolamento UE 2024 1689 prevede requisiti specifici di registrazione e sorveglianza umana. Questi obblighi non si estendono automaticamente a ogni agente aziendale. Tuttavia, distinguere chi ha fatto che cosa, consentire l’intervento umano e conservare evidenze proporzionate sono pratiche utili anche fuori da quel perimetro.

Un cruscotto piccolo che porta a decisioni vere

Il cruscotto iniziale può essere molto semplice. Per ogni agente: processo servito, proprietario, versione, attività completate, esiti utili, eccezioni, escalation, permessi effettivamente usati e tempo medio di ripristino. I dati vanno letti insieme a un campione di casi, perché una percentuale può nascondere errori rari ma gravi.

La revisione deve produrre una delle quattro decisioni possibili: mantenere l’autonomia; restringere permessi o campo d’azione; aggiungere un controllo umano; sospendere e correggere. Senza questa uscita, il monitoraggio diventa una raccolta passiva di log. Con una decisione chiara, invece, l’impresa può aumentare la scala senza perdere la capacità di capire e correggere ciò che accade.

AIPIA, Associazione Italiana Professionisti dell’Intelligenza Artificiale, lavora per tradurre alfabetizzazione, competenze e governance dell’IA in pratiche verificabili nei contesti professionali. Da questa prospettiva, la maturità di un agente non si misura dal numero di funzioni che riesce a eseguire, ma dal rapporto tra valore prodotto e controllo conservato.

Un agente diventa davvero operativo quando il suo lavoro è osservabile e reversibile. La domanda non è soltanto quante azioni possa compiere, ma quali risultati possiamo verificare, quali errori sappiamo intercettare e quanto rapidamente possiamo tornare indietro.

di Rafael Patron  |  Presidente del Comitato Tecnico-Scientifico AIPIA