Chi risponde degli errori dell’intelligenza artificiale? Prima di scoprirlo partiamo dal principio.
A seguito dell’espansione dirompente dei dispositivi alimentati da large language models, si pone con sempre maggiore insistenza il tema della responsabilità (o accountability) algoritmica. Difatti, a seguito dell’accelerazione introdotta dai sistemi di intelligenza artificiale generativa, l’Unione Europea è intervenuta dal punto di vista normativo attraverso due specifici atti regolatori. Da un lato l’AI Act[1], il primo regolamento globale che classifica i sistemi di intelligenza artificiale secondo un approccio basato sul rischio, vietando pratiche inaccettabili e imponendo stringenti obblighi di supervisione umana per i sistemi ad alto rischio; dall’altro, il Digital Services Act[2], la normativa che riconfigura la responsabilità delle piattaforme online, introducendo nuovi standard di trasparenza sugli algoritmi di raccomandazione e obblighi proattivi per il contrasto ai contenuti illegali e alla disinformazione.
Le imprese italiane risultano direttamente coinvolte in questo processo di adeguamento, che si inserisce in un contesto economico complesso a due velocità. I dati parlano chiaro. Secondo il report Lo Stato dell’intelligenza artificiale realizzato da Astrid[3], l’adozione diffusa dell’intelligenza artificiale potrebbe generare un valore aggiunto pari al 18% del PIL italiano entro il 2040. Tuttavia, lo stesso studio evidenzia come il sistema produttivo nazionale soffra di ritardi strutturali che collocano l’Italia in posizione arretrata rispetto ai principali competitor europei ed internazionali. Tale criticità è confermata anche dal rapporto OCSE dedicato alle PMI e al divario digitale[4]: laddove il 40% delle grandi imprese utilizza già soluzioni di intelligenza artificiale, solo l’11,9% delle piccole e medie imprese è riuscito a integrarle in modo sistematico nei propri modelli di business.
Di qui il rischio di perdere un importante volano di crescita, considerando che l’intelligenza artificiale potrebbe incrementare la produttività del lavoro fino all’1,3% annuo nel prossimo decennio[5]. Per raccogliere la sfida dell’automazione e trasformarla in opportunità, l’OCSE ha proposto una nuova tassonomia delle PMI, invitando i governi a intervenire su quattro fattori abilitanti: connettività, disponibilità di dati e potenza di calcolo, competenze e accesso ai finanziamenti. In base a questo scenario, la diffusione dell’intelligenza artificiale non può prescindere da una gestione strutturata dei rischi normativi e organizzativi connessi al suo utilizzo[6].
È proprio in risposta a questa esigenza, e in vista delle scadenze normative del 2026, che la figura dell’AI Compliance Manager diviene centrale[7]. Si tratta di un profilo – sia nella veste di freelance che di consulente – il cui compito è quello di garantire che l’organizzazione del lavoro rispetti le regole dell’AI Act e le normative in materia. Nello specifico, questa figura accompagna il sistema di AI fin dall’origine conducendolo al conseguimento dei necessari certificati e delle dichiarazioni di conformità UE. Una professionalità profondamente condizionata dalle innovazioni derivanti dall’intelligenza artificiale che, nel complesso, sta ridefinendo la quotidianità operativa del lavoro del manager. L’automazione di attività come la revisione documentale, il monitoraggio delle transazioni e, in ultimo, l’analisi dei flussi informativi, permette infatti di superare una concezione meramente esecutiva della funzione. In questo modo, la compliance si trasforma in un presidio strategico trainato dai dati, evolvendo da funzione difensiva a capacità predittiva essenzialmente orientata alla governance del rischio.
In questo nuovo assetto, il Compliance Manager assume il ruolo di interprete e mediatore tra tre livelli che, seppur distinti, si presentano come interdipendenti: i requisiti normativi, gli obiettivi di business e le potenzialità tecnologiche offerte dagli stessi sistemi di intelligenza artificiale. Questa funzione di raccordo diventa essenziale per evitare che l’innovazione proceda in modo disarticolato rispetto al quadro regolatorio, esponendo l’impresa a rischi sia di tipo legale che di stampo reputazionale.
Tuttavia, questa evoluzione apre per l’AI Compliance Manager un nuovo scenario di responsabilità. Il professionista è spesso chiamato a validare o attestare processi algoritmici sviluppati all’interno di organizzazioni poco strutturate, caratterizzate da assetti di governance fragili e da una limitata conoscenza tecnologica. In questo contesto, il rischio non risiede più esclusivamente nell’errore tecnico, bensì nella difficoltà di individuare e correggere criticità più ampie di tipo sistemico, come ad esempio la mancata individuazione di bias discriminatori e la validazione di output affetti da fenomeni di allucinazioni. Vulnerabilità risultano particolarmente amplificate nelle piccole e medie imprese, dove la carenza di competenze interne rende estremamente complessa la distinzione delle responsabilità tra consulente e impresa.
All’interno di questo quadro, anche il settore assicurativo è chiamato a interrogarsi sul proprio ruolo, approfondendo i nuovi profili di rischio anche legati all’utilizzo dell’intelligenza artificiale e valutando l’adeguatezza delle coperture di responsabilità civile professionale rispetto a scenari tecnologici in rapida evoluzione.
In conclusione, la figura dell’AI Compliance Manager si delinea non come un semplice tecnico, ma come una figura indispensabile per l’integrazione dell’intelligenza artificiale nel tessuto produttivo italiano. Se da un lato l’opportunità economica è chiara, la sua realizzazione concreta nei meccanismi decisionali delle PMI dipende largamente dalla capacità di gestione del rischio. Senza un mercato assicurativo maturo il divario digitale rischia di trasformarsi in un divario che impatta negativamente sulla competitività economica. La sfida dei prossimi anni sarà dunque di carattere culturale, in modo da trasformare la compliance da costo obbligato per le aziende a leva strategica di affidabilità e crescita.
A firma Sauro Mostarda, CEO di Lokky
