Nell’articolo che condividiamo di seguito, Cristina Mariano, Country Manager Italia di Advens, spiega l’urgenza di agire subito per gettare le basi di un uso sicuro dell’Intelligenza Artificiale (AI). Le minacce e i rischi legati all’uso dell’AI nelle aziende crescono e si evolvono sempre più; per questo, come sottolinea la manager, affrontare l’AI con una strategia di sicurezza solida è fondamentale per proteggere i dati, la reputazione e il futuro del business.
Buona lettura!
Navigare l’era dell’AI aziendale: dalla spontaneità alla strategia di sicurezza
L’intelligenza artificiale (AI) è diventata onnipresente. Secondo recenti studi, circa il 79% delle aziende italiane ha adottato l’AI nel proprio contesto lavorativo nel 2024, segnando una crescita significativa rispetto agli anni precedenti. Il mercato italiano dell’intelligenza artificiale ha raggiunto un valore record di 1,2 miliardi di euro nel 2024, con un incremento del 58% rispetto al 2023. Questo boom è trainato soprattutto dalle sperimentazioni di AI generativa, che rappresentano il 43% del valore complessivo del mercato.
Tuttavia, questa rapida adozione spesso avviene senza un’adeguata attenzione alla sicurezza, creando vulnerabilità significative. L’Intelligenza Artificiale è un’arma a doppio taglio: offre enormi opportunità, ma anche rischi significativi per la sicurezza aziendale.
I rischi inerenti all’AI: vulnerabilità e minacce
Le vulnerabilità intrinseche dell’Intelligenza Artificiale sono molteplici. Si va dalla manipolazione dei modelli, che può portare a decisioni errate o discriminatorie, alla generazione di deepfake, utilizzabili per campagne di disinformazione o attacchi di social engineering. Esempi concreti, come ChatGPT trasformato in bot razzista o modelli AI dannosi diffusi su piattaforme come Hugging Face, dimostrano il potenziale per un uso dannoso di questo strumento.
Ma non solo. I criminali stanno sfruttando l’AI per automatizzare e sofisticare i loro attacchi, rendendo la cybersecurity ancora più complessa. Il rapporto Cybersecurity Forecast 2025 di Google Cloud prevede un aumento dell’uso dell’intelligenza artificiale soprattutto per attività di phishing, deepfake e ricerca di vulnerabilità.
Le sfide in azienda: perdita di controllo e Shadow AI
Anche all’interno delle imprese l’Intelligenza Artificiale pone sfide specifiche, tra cui la perdita di dati sensibili, l’uso incontrollato dei risultati e la saturazione delle licenze a causa di un’implementazione non pianificata. Un problema sempre più pressante è la cosiddetta “Shadow AI”, ovvero l’uso dell’AI al di fuori dei canali IT ufficiali. Questo fenomeno, in crescita, espone le aziende a rischi significativi, come la condivisione di dati sensibili in prompt o la violazione della proprietà intellettuale. A livello globale, l’adozione interna dell’AI generativa è cresciuta rapidamente, passando dal 55% al 78% tra il 2023 e il 2024 secondo McKinsey, spesso senza una governance strutturata a supporto. Questo incremento evidenzia i rischi legati alla mancanza di controllo e supervisione IT nelle organizzazioni.
AI customizzata: un’arma a doppio taglio
L’integrazione dell’Intelligenza Artificiale nei processi aziendali critici introduce nuove vulnerabilità, come quelle nella supply chain, la manipolazione dell’addestramento dei modelli e la mancanza di trasparenza. Vista la sua duplice natura e i rischi intrinseci che la caratterizzano, è fondamentale considerare l’AI sotto tutti i suoi aspetti e adottare un approccio strategico e proattivo al suo utilizzo.
Dalla spontaneità alla strategia: un approccio proattivo
Per affrontare queste sfide, le aziende devono passare da un approccio spontaneo all’Intelligenza Artificiale a una strategia di sicurezza ben definita. Ecco alcuni passi fondamentali:
- Valutazione a 360: Effettuare una valutazione completa dell’ecosistema AI aziendale, includendo sia le soluzioni gestite dall’IT che gli usi spontanei.
- Consapevolezza e formazione: Educare gli utenti sui rischi dell’AI generativa e sensibilizzare il team dirigenziale. La formazione del personale è spesso insufficiente e non adeguata alle nuove minacce basate su AI, dando vita a un “anello debole” nella catena di difesa aziendale. Un recente report di Kantar Media mostra che anche il 36% dei team marketing non possiede le competenze necessarie per l’AI generativa.
- Governance e policy: Definire una politica di sicurezza Intelligenza Artificiale e integrare la cybersicurezza nella sua governance. Le aziende italiane sono chiamate a sviluppare una gestione integrata che includa valutazioni complete dei rischi, formazione continua, policy di sicurezza dedicate e tecnologie per mitigare le minacce.
- Soluzioni di sicurezza: Implementare soluzioni tecnologiche per rilevare e limitare i rischi dell’Intelligenza Artificiale, come proxy, CASB e altre soluzioni equivalenti.
- AI by Design: Integrare la sicurezza fin dalla progettazione dei sistemi AI, seguendo i principi di ML SecOps e gestendo la sicurezza delle terze parti per poterne sfruttare tutto il potenziale. Ad esempio, il machine learning può essere utilizzato per il rilevamento di attacchi informatici, mentre la GenAI può supportare la mitigazione degli attacchi.
Agire ora per un futuro sicuro
È urgente agire ora per gettare le basi per un uso sicuro dell’Intelligenza Artificiale. Un approccio proattivo e strategico è essenziale per mitigarli e la collaborazione tra IT, sicurezza e business è fondamentale per un’implementazione di successo. È consigliabile iniziare identificando gli usi dell’AI in azienda, determinando le azioni di sensibilizzazione più efficaci e costruendo un piano di gestione del rischio informatico. Inoltre, bisogna ricordare che presto entrerà in vigore anche l’AI Act che, come il GDPR, richiederà alle aziende di mappare e governare gli usi dell’intelligenza artificiale.
In un contesto in cui l’82% delle aziende italiane ha subito incidenti legati all’intelligenza artificiale nell’ultimo anno, la sicurezza dell’AI non è più un’opzione, ma una necessità. Affrontare l’Intelligenza Artificiale con una strategia solida è fondamentale per proteggere i dati, la reputazione e il futuro del vostro business.
di Cristina Mariano, Country Manager Italia di Advens
