In questi giorni il dibattito sull’intelligenza artificiale ha assunto toni particolarmente accesi, con interventi molto diretti da parte dei protagonisti stessi del suo sviluppo: da Dario Amodei a Sam Altman, da Elon Musk a Demis Hassabis si parla pubblicamente della necessità di rallentare la corsa verso modelli sempre più potenti, di rafforzare i meccanismi di controllo e di interrogarsi sui rischi legati alla crescente autonomia dei sistemi.
Personalmente mi occupo di rischio, sono quindi abituato a valutare attentamente anche i cambiamenti più dirompenti. Proprio per questo, dovendo costruire una mappa dei rischi legati all’intelligenza artificiale nelle aziende, insieme ai grandi interrogativi ne metterei sotto osservazione almeno due molto più pratici e decisamente più vicini alla nostra esperienza quotidiana. Il primo riguarda il governo dei dati, il secondo l’economia dell’AI.
Prima domanda: dov’è il dato?
Il caso Revolut di questi giorni offre un esempio interessante, anche se non riguarda direttamente l’intelligenza artificiale.
La banca digitale ha confermato di aver trasmesso informazioni sensibili di alcuni clienti in seguito a richieste fraudolente che sembravano provenire da un dominio istituzionale autentico. Secondo le ricostruzioni disponibili, gli attaccanti avrebbero utilizzato una casella riconducibile a un’istituzione italiana per presentarsi come autorità legittimata a richiedere quelle informazioni. Revolut sostiene che i propri sistemi non siano stati violati e che i fondi dei clienti non siano stati coinvolti. Le autorità stanno indagando sull’accaduto ed è proprio questo il punto interessante.
Possiamo costruire infrastrutture estremamente sicure e continuare ad avere un problema se non governiamo altrettanto bene il processo attraverso cui decidiamo quando, come e a chi un dato può essere affidato. Con l’AI questa domanda diventa ancora più importante.
Quando integriamo un modello all’interno di un processo aziendale, infatti, non stiamo semplicemente scegliendo un software. Stiamo decidendo dove verranno elaborati i nostri dati, quali informazioni potranno lasciare il perimetro aziendale, attraverso quali infrastrutture transiteranno e quali soggetti entreranno nella catena.
Per questo parlare semplicemente di “adottare l’AI” significa porre male la questione. Infatti, la domanda dovrebbe essere: quale AI, per quale processo, con quali dati e a quali condizioni?
La risposta non può essere sempre la stessa. Per alcune attività relativamente semplici ma caratterizzate da un’elevata sensibilità delle informazioni, può avere senso utilizzare modelli open weight all’interno dell’infrastruttura aziendale. In altri casi può essere opportuno ricorrere a servizi cloud dedicati. In altri ancora, architetture RAG permettono di mantenere sotto controllo il patrimonio documentale e mettere a disposizione del modello soltanto le informazioni necessarie a svolgere uno specifico task.
Non esiste quindi un modello migliore in assoluto, Esiste il modello più appropriato rispetto a quel dato, quel task e quel livello di rischio. È qui che diventa importante un principio che considero centrale nell’industrializzazione dell’intelligenza artificiale: l’agnosticismo tecnologico.
Partire dal processo anziché dal prodotto. Comprendere prima che cosa dobbiamo ottenere, quali informazioni dobbiamo utilizzare, quali vincoli dobbiamo rispettare e quale livello di performance ci serve. E soltanto dopo scegliere la tecnologia.
Seconda domanda: quanto costa farla funzionare?
Poi c’è un secondo problema, meno filosofico ma altrettanto concreto: i token sono costosi. Finché utilizziamo l’intelligenza artificiale per scrivere una mail o sintetizzare un documento, la questione può sembrare marginale. Quando però l’AI entra stabilmente nei processi di un’azienda e migliaia o milioni di interazioni vengono eseguite ogni giorno, quel costo cambia natura, diventando un costo industriale.
Diventa, soprattutto, un costo che non assomiglia molto alla vecchia licenza software: dipende dai volumi utilizzati, dalla quantità di informazioni elaborate, dal modello scelto, dalla complessità dei task e dall’architettura adottata.
Non è un problema teorico. Nel 2026 diverse grandi società di consulenza hanno iniziato a introdurre sistemi specifici per governare il consumo di token; McKinsey, per esempio, ha rilevato che circa il 10% degli utenti produceva il 65% del consumo complessivo all’interno dell’organizzazione. Anche IDC ha iniziato a parlare esplicitamente del token come di una nuova voce di budget aziendale.
Potremmo dire che i token stanno diventando per l’AI qualcosa di simile a ciò che l’energia è per una fabbrica o il carburante per una flotta. Se non conosci quanto consuma il tuo processo, puoi anche costruire un prodotto straordinario. Ma avrai qualche difficoltà a sapere se quel prodotto genera realmente margine.
Ed è qui che l’agnosticismo tecnologico acquista una seconda funzione, perché non tutti i task richiedono lo stesso modello. Usare sempre il modello più potente disponibile sarebbe un po’ come utilizzare un’auto da Formula 1 per andare a comprare il pane: tecnicamente possibile, economicamente discutibile.
All’interno dello stesso processo possiamo invece utilizzare modelli differenti. Un modello più leggero può classificare un documento o estrarre un’informazione. Uno più sofisticato può intervenire quando è necessaria una maggiore capacità di ragionamento. Alcuni task possono essere eseguiti localmente, altri affidati a servizi esterni.
L’obiettivo non è risparmiare qualche token, ma costruire un’economia sostenibile dell’intelligenza artificiale, in cui il costo della tecnologia sia proporzionato al valore prodotto. È anche per questo che il vero problema dell’AI enterprise, a mio avviso, non sarà scegliere un modello. Sarà orchestrare modelli diversi.
La terza variabile siamo noi
Non ultimo rimane un altro elemento da orchestrare: le persone. Non tutti i processi possono avere lo stesso livello di autonomia e non tutte le decisioni possono essere delegate nello stesso modo. In alcuni casi l’intervento umano può limitarsi alla verifica dell’output. In altri deve diventare parte integrante del processo decisionale. Quanto più aumentano la criticità della decisione, il suo impatto e il rischio associato, tanto più deve essere chiaro dove termina il compito della macchina e dove comincia la responsabilità della persona.
Lo human in the loop, da questo punto di vista, non dovrebbe essere una correzione applicata a posteriori all’AI, dovrebbe essere progettato insieme al processo. Anche qui non esiste una formula universale. Esiste un livello appropriato di automazione per ogni attività.
Ed è probabilmente questa la parte meno spettacolare dell’attuale rivoluzione dell’intelligenza artificiale. Mentre discutiamo se un giorno le macchine potranno diventare troppo intelligenti per essere controllate, nelle aziende dobbiamo affrontare una domanda molto più immediata: siamo abbastanza bravi noi a controllare come le stiamo utilizzando oggi?
Dove sono i dati. Chi può accedervi. Quanto costa elaborarli. Quale modello utilizziamo. Quando conviene cambiarlo. Quali attività possiamo automatizzare. Quali decisioni devono restare sotto responsabilità umana.
Son domande meno esistenziali ma, almeno per chi si occupa di rischio e di trasformazione dei processi, sono quelle su cui vale la pena lavorare adesso. Perché forse i rischi peggiori non si concretizzeranno, ma la fattura dei token arriverà di sicuro.
di Mario Calcagnini, Head of FSI Advisory & Solutions di Spindox
