Il 2 agosto, la maggior parte degli elementi rimanenti dell’EU AI Act, la prima regolamentazione sull’AI dell’Unione Europea, entrerà in vigore portando maggiore disciplina e sicurezza. Cosa significa questo per le aziende? Come possono prepararsi?
Alcuni esperti parlano dei tipici problemi “di gioventù” di una tecnologia emergente, mentre altri intravedono gravi rischi di sicurezza che rimarranno difficili da arginare anche in futuro. I recenti eventi di luglio tendono a supportare questa seconda ipotesi, poiché i sistemi di AI distribuiti e testati hanno utilizzato capacità che hanno sorpreso i loro stessi sviluppatori.
Ad esempio, è emerso che l’agente AI di OpenAI non ha compromesso solo Hugging Face, ma almeno altri quattro servizi. In un evento separato, le funzionalità dell’intelligenza artificiale hanno trovato nuovi percorsi o interagito con servizi esterni consolidati, come l’indice di Google nel caso del chatbot Claude. Gli utenti avevano in precedenza abilitato queste chat per la condivisione che, di conseguenza, sono state indicizzate dai motori di ricerca, diventando accessibili pubblicamente.
L’intelligenza artificiale è nuova, entusiasmante e chiaramente difficile da prevedere. Anche in un ambiente di test controllato, i modelli hanno trovato una via d’uscita dal contesto isolato. I sistemi di AIautonomi agiscono in modo orientato all’obiettivo, tuttavia, spesso lo fanno in una modalità che non era né prevista, né intenzionale da parte dei loro sviluppatori.
Regole per una maggiore disciplina e un’analisi approfondita dei rischi
Sembra quasi ironico che così tanti incidenti si siano verificati a luglio. Dopotutto, il 2 agosto, l’AI Act dell’UE vedrà entrare in vigore la maggior parte dei suoi elementi, completando la creazione di un quadro normativo per i sistemi di AI basato sul rischio.
La normativa stabilisce le regole per sviluppatori e utenti di sistemi di AI a elevata pericolosità, coprendo, tra le altre, gestione del rischio, data governance, documentazione tecnica, obblighi di conservazione dei registri, trasparenza, supervisione umana, accuratezza, resilienza, cybersecurity e notifiche di incidenti gravi. Il suo obiettivo è promuovere un’AI affidabile in Europa, garantendo allo stesso tempo che la tecnologia rimanga incentrata sull’utente e non metta a rischio salute, sicurezza o diritti fondamentali dei cittadini dell’Union.
Alcune verità immutabili
Le aziende con progetti di AI propri o quelle che si avvalgono di servizi esterni dovrebbero ora valutare in quale misura le regole si applichino a loro dal punto di vista della governance e come ripensare i concetti esistenti. Per i responsabili IT e i CISO, il compito è chiaro: devono far evolvere il modello di sicurezza con la stessa rapidità con cui l’adozione dell’AI avanza nel loro ambiente.
Anche se l’AI Act dell’UE interessa l’azienda solo marginalmente, valgono alcune verità immutabili:
Gli incidenti di luglio non dovrebbero scoraggiare le aziende dall’utilizzare l’AI, ma è necessario abbandonare l’idea che i sistemi autonomi funzioneranno sempre come previsto. La lezione più importante è che la fiducia nell’AI non deve mai essere data per scontata, ma verificata continuamente. La resilienza è altrettanto importante per consentire un ripristino rapido, anche quando i migliori controlli di sicurezza vengono aggirati.
“Centinaia di utenti hanno reso inconsapevolmente accessibili liberamente su Internet le loro conversazioni con il chatbot AI Claude. Tali interazioni includevano ricerche legali, curriculum, codice sorgente, fasi di recovery per criptovalute, dati personali e molto altro. Si tratta, a rigor di termini, di una grave falla nella privacy che evidenzia la natura complessa degli strumenti di AI e le operazioni che questi eseguono al di fuori dei requisiti o della consapevolezza degli utenti,” sottolinea Edwin Passarella, Field CTO EMEAI di Commvault. “Le persone coinvolte avevano scelto di condividere i contenuti utilizzando una specifica funzione di Claude, ignare del fatto che sarebbero stati successivamente indicizzati dai motori di ricerca. Questo rappresenta una chiara violazione del GDPR per gli utenti e le aziende coinvolte, dimostrando inoltre con quanta rapidità possa verificarsi un data leakage nell’attuale panorama dell’intelligenza artificiale in continua evoluzione.”
