Una nuova ricerca di IBM rileva che gli incidenti AI sono diffusi in Europa e Medio Oriente, ma che le capacità di governance e la responsabilità nella gestione del rischio non stanno tenendo il passo con l’adozione della tecnologia.
Otto dirigenti su dieci tra quelli intervistati dichiarano che nell’ultimo anno un incidente legato all’AI – inclusi il malfunzionamento di un agente, l’esposizione di dati, errori decisionali guidati dall’AI o violazioni della sicurezza legate all’AI – sia arrivato all’attenzione del board o del top management. Tuttavia, meno della metà (40%, 37% in Italia) di queste organizzazioni segnala di aver modificato policy o framework di governance dell’AI come risposta.
Quando il ritmo di implementazione dell’intelligenza artificiale supera la preparazione dei framework di governance e compliance, la maggioranza (56%, dato che scende al 44% in Italia) dei leader riferisce di procedere comunque entro limiti di rischio accettato, adattando la governance in corso d’opera anziché fermarsi. Solo un terzo (41% in Italia) rinvia completamente il deployment fino a quando la governance non è pronta.
L’indagine, condotta su oltre 3.200 senior leader di organizzazioni in otto Paesi europei e del Medio Oriente (di cui 510 in Italia), suggerisce che le policy di governance saranno ulteriormente messe alla prova man mano che gli agenti AI assumeranno compiti più autonomi. Il 35% degli intervistati (43% in Italia) dichiara di utilizzare già oggi AI agentica in produzione, mentre tre quarti degli intervistati (82% in Italia) si aspettano che entro il 2027 gli agenti AI abbiano un certo livello di autonomia decisionale. Solo il 37% (dato che scende al 30% in Italia) afferma che l’attuale sistema di governance sia progettato per poter scalare con il deployment dell’AI agentica.
Nico Losito, Amministratore Delegato di IBM Italia, ha dichiarato: “Oggi il dibattito sull’AI non riguarda più soltanto l’adozione, ma tocca i temi di fiducia e responsabilità. Con il passaggio dagli assistenti agli agenti autonomi, la governance diventa una priorità strategica: deve essere integrata nel loro funzionamento, definendo confini operativi, responsabilità chiare e controlli in tempo reale. Solo così le imprese potranno portare l’AI su scala con fiducia e generare un valore di business concreto e sostenibile.”
Divario in materia di responsabilità e obblighi
Quasi tutti i business leader intervistati (98%) hanno assegnato formalmente la responsabilità del rischio AI a livello di board, di cui il 26% (solo il 21% in Italia) con un comitato dedicato all’intelligenza artificiale a livello di consiglio di amministrazione. Tuttavia, la ricerca non evidenzia un consenso chiaro sulla responsabilità per gli esiti negativi derivanti dagli AI. Il ruolo più frequentemente indicato è quello del CIO o CTO dell’organizzazione, scelto solo dal 17% degli intervistati, percentuale che sale al 25% in Italia.
Anche le opinioni sulla responsabilità legale nel caso in cui un sistema di intelligenza artificiale causi un danno significativo risultano contrastanti: il 20% (22% in Italia) ritiene che dovrebbe essere ripartita proporzionalmente tra chi lo utilizza e il fornitore, il 19% (stesso dato per l’Italia) sostiene che dovrebbe esistere un quadro normativo che al momento non è ancora adeguatamente definito, mentre il 14% (15% in Italia) ritiene che la responsabilità debba ricadere sul fornitore dell’AI o sul fornitore della tecnologia.
Per gestire, entro il 2027, agenti di AI sempre più autonomi che prendono decisioni senza l’approvazione umana in ogni fase, i dirigenti prevedono di aver bisogno di quadri giuridici o contrattuali formali che definiscano la responsabilità dei fornitori in caso di malfunzionamento degli agenti (33%, il 39% in Italia), soglie definite per l’intervento umano (32%, il 33% in Italia), monitoraggio in tempo reale e tracciabilità delle decisioni e delle azioni degli agenti (30%, il 32% in Italia) e la possibilità di interrompere immediatamente l’attività degli agenti in tutta l’azienda (29%, il 31% in Italia).
Tra gli altri risultati chiave:
- La misurazione dell’esposizione al rischio finanziario avviene in modo ancora limitato: oltre la metà (54%, solo il 45% in Italia), dei dirigenti gestisce gli strumenti di AI generativa e i sistemi di AI agentica come categorie di rischio distinte, con quadri di governance separati, mentre un ulteriore 38% (che sale al 46% in Italia) applica lo stesso quadro di riferimento di base, ma con controlli aggiuntivi per l’AI agentica. La misurazione dell’esposizione finanziaria derivante dalle lacune nella governance dell’AI è meno avanzata: solo il 37% (35% in Italia) dispone di una quantificazione formale del rischio finanziario creato da tali lacune, approvata dal consiglio di amministrazione.
- Rischio nella supply chain: il 54% (che in Italia sale al 64%) degli intervistati riconosce l’esistenza di lacune o limitazioni nel modo in cui il proprio quadro di governance disciplina i sistemi e i modelli di AI utilizzati dai suoi principali fornitori, dai partner tecnologici e dagli attori della supply chain. Solo il 21% (24% in Italia) monitora costantemente i rischi legati all’AI di terze parti e il 13% (stesso risultato in Italia) applica requisiti di verifica o certificazione indipendenti.
- La normativa detta il ritmo a livello di ogni Regione: nell’UE, il 41% dei leader di business sta accelerando gli investimenti nella governance in vista degli obblighi relativi alle attività ad alto rischio previsti dall’EU AI Act a dicembre 2027, mentre un ulteriore 35% (34% in Italia) sta procedendo secondo piani di conformità strutturati. Nel Regno Unito, le aspettative delle autorità di regolamentazione settoriali sono il fattore più citato come motore degli investimenti nella governance dell’AI (27%), mentre in Arabia Saudita e negli Emirati Arabi Uniti prevalgono i requisiti delle strategie nazionali in materia di AI (61%).
“L’intelligenza artificiale rappresenta una leva strategica per l’industria manifatturiera del futuro. Con Gina On-Air abbiamo scelto di investire in una piattaforma che ci permetta di accelerare l’innovazione, migliorare la produttività e valorizzare il patrimonio di competenze sviluppato in oltre cinquant’anni di attività. Questo progetto, sviluppato in collaborazione con IBM e con Uno Informatica, dimostra come anche realtà industriali altamente specializzate possano integrare l’AI nei propri processi in modo concreto, mantenendo il controllo dei dati e trasformando la tecnologia in un vantaggio competitivo duraturo”, afferma Luca Barneschi, CEO e Amministratore Delegato di Bertolotti S.p.A.
