“L’AI non riduce la responsabilità. Semmai, alza l’asticella.” Lo ha detto Pedro Machado, membro del Consiglio di vigilanza della Banca centrale europea (BCE), alla KPMG RiskTech Conference di Francoforte, nel febbraio 2026. Per un agente AI che legge le pratiche dei clienti e aggiorna i dati nei sistemi, quell’asticella si traduce in decisioni precise. Qualcuno deve stabilire su che cosa l’agente può intervenire, quali azioni richiedono un’approvazione e come dimostrare in seguito che cosa è accaduto.
Poche di queste questioni riguardano il modello. Sono questioni di dati, procedure e responsabilità, gli ambiti in cui le autorità vigilano più da vicino sulle banche e sulle assicurazioni.
Il discorso di Machado dà anche la misura della diffusione dell’AI. Oltre l’85% delle grandi banche sottoposte alla vigilanza europea la utilizza già in qualche forma. L’AI generativa e quella agentica stanno accelerando l’adozione. Secondo la BCE, la governance resta disomogenea tra istituti e casi d’uso.
La governance al centro della vigilanza
Un agente che opera in una banca o in un’assicurazione deve rispettare un insieme di regole. Le autorità di vigilanza esaminano la qualità dei dati utilizzati dai sistemi AI e come le aziende ne governano l’impiego. Nelle priorità di vigilanza per il 2026-2028, la BCE colloca il monitoraggio dell’AI tra le attività dedicate alla resilienza operativa e alle capacità informatiche, con un’attenzione particolare all’AI generativa.
Il regolamento europeo sull’intelligenza artificiale, l’AI Act, classifica come ad alto rischio alcuni impieghi nel settore, tra cui la valutazione del merito di credito delle persone fisiche e, nelle assicurazioni sulla vita e sanitarie, la valutazione dei rischi e la determinazione dei premi. Con l’AI Omnibus, entrato in vigore il 27 luglio 2026, le regole per questi sistemi si applicano dal 2 dicembre 2027. DORA, il regolamento europeo sulla resilienza operativa digitale del settore finanziario, fissa requisiti sulla gestione dei rischi informatici e sul ricorso a fornitori tecnologici terzi.
Queste regole non dicono a una banca quale strumento usare. Descrivono il contesto in cui i team IT, di gestione dei rischi e di compliance decidono se un agente può uscire dalla fase pilota.
Quattro punti da definire prima della messa in produzione
Il primo è un perimetro chiaro per ciascun agente. Vanno specificati i dati che può leggere, i sistemi che può utilizzare e le azioni che gli sono consentite. Serve anche una regola per le richieste che superano quei limiti: per esempio, rifiutarle oppure affidarle a una persona.
Il secondo è la registrazione del lavoro svolto. Devono restare disponibili la richiesta ricevuta, i sistemi utilizzati, le azioni eseguite e il loro esito. Senza queste informazioni, la funzione di audit interno non può riesaminare una decisione a posteriori.
Il terzo è la sorveglianza umana, commisurata alle conseguenze dell’azione. Il dipendente che invia una risposta a un cliente può controllarne la bozza. Per modificare una pratica creditizia serve invece un’approvazione esplicita prima di procedere.
Il quarto riguarda l’infrastruttura su cui opera il sistema e il grado di dipendenza da un unico fornitore di modelli. La BCE ha indicato il rischio di concentrazione e il vincolo a un fornitore, o vendor lock-in, tra le criticità dell’AI generativa e li ha collegati alle regole di DORA sui rischi da terzi.
Un esempio di come si possono affrontare alcuni di questi punti è Polyant, la piattaforma sviluppata da Exelab per creare e gestire agenti AI nei processi aziendali. È un software, non un modello AI. Per ciascun agente si definiscono ruolo, istruzioni, modello, strumenti e documenti di riferimento. Gli strumenti possono essere ad esempio i collegamenti con cui l’agente legge o modifica i dati nei sistemi aziendali: l’azienda decide quali rendere disponibili a ciascun agente.
Gli strumenti possono annotare in un registro le operazioni che eseguono, con l’esito e la durata, così da poterle riesaminare in seguito. Il ruolo assegnato a ciascuna persona determina chi può configurare un agente e chi può consultare il registro.
In alcuni piani dell’offerta gestita si possono aggiungere controlli automatici: sulla richiesta prima che il modello risponda, sulle operazioni prima che gli strumenti le eseguano, sulla risposta prima che venga consegnata. Ogni controllo può registrare quanto è avvenuto, segnalare o anche bloccare un’azione.
Il modello può essere scelto per ciascun agente in base all’attività, tra quelli di più fornitori. Questo riduce la dipendenza da un unico fornitore. Alcuni modelli si possono usare anche tramite Amazon Bedrock, con l’account cloud dell’azienda cliente. La piattaforma stessa può essere installata on-premise o nel cloud dell’azienda, oppure essere gestita da Exelab.
“In un pilota si guarda quanto è bravo l’agente a risolvere un problema. Per portarlo in produzione non basta: possiamo misurare la qualità del suo lavoro? Se sbaglia, quanto ci mettiamo ad accorgercene e a fermarlo? E chi decide come correggerlo?”, afferma Emanuele Caronia, CEO di Exelab, l’azienda che ha realizzato Polyant.
Quando gli agenti si moltiplicano
Con un solo agente in produzione, il team che lo ha costruito sa come funziona e come controllarlo. Quando gli agenti diventano molti e li realizzano team diversi, quella conoscenza non basta più: le regole devono valere per tutti, chiunque li abbia costruiti.
“Con un agente solo, le regole stanno nella testa di chi l’ha costruito. Con dieci, devono essere disponibili e accessibili per chi arriva dopo. In un’azienda, il manager deve conoscere le responsabilità e il talento delle persone e coordinarne l’attività. Allo stesso modo, al crescere della complessità, gli agenti AI richiedono strumenti di governo e monitoraggio affidabili e sicuri”, aggiunge Caronia.
