Un solo operatore, dodici agenti di intelligenza artificiale e centinaia di organizzazioni prese di mira in undici Paesi, tra cui servizi di emergenza, università e istituti finanziari. È quanto emerge dalla nuova ricerca dell’Acronis Threat Research Unit (TRU) sulla campagna BOSSAI, che documenta con un elevato livello di dettaglio come un singolo attaccante possa orchestrare un’intera rete di agenti AI specializzati.
Tra i bersagli figuravano anche sistemi governativi e militari, piattaforme di e-commerce e siti di gambling, anche se le violazioni confermate, con esfiltrazione di dati sanitari e informazioni personali, hanno riguardato principalmente università e fornitori di servizi di emergenza. Gli esperti della TRU di Acronis hanno analizzato l’intera infrastruttura, con oltre 90.000 file e 9 GB di evidenze, tra cui log di orchestrazione, conversazioni degli agenti e cronologia dei comandi dell’operatore.
Da evidenziare che l’operatore ha usato i modelli AI commerciali solo per costruire l’infrastruttura, mentre quando ha provato a impiegarli per attaccare, questi hanno rifiutato più volte, in alcuni casi chiedendo prova di un’autorizzazione legale. Per questo è stato costretto a ripiegare su modelli open source “abliterated”, privi di controlli di sicurezza ed eseguiti in locale, meno efficaci ma che non oppongono resistenza. Le salvaguardie dei modelli commerciali hanno quindi funzionato, ma hanno spostato il problema su modelli locali che nessuno controlla.
La ricerca mette inoltre in luce un aspetto spesso sottovalutato: l’AI offensiva non è infallibile. Gli agenti hanno prodotto enormi quantità di dati, spesso con errori, e hanno inventato vulnerabilità inesistenti. In particolare, in uno degli strumenti utilizzati, oltre la metà dei risultati critici o ad alta severità era un falso positivo o presentava una classificazione errata. Nello stesso tempo, avendo ricevuto ampia autonomia, gli agenti hanno scartato bersagli potenzialmente redditizi, tra cui una base militare, ritenendoli fuori ambito.
Per le aziende e per i Managed Service Provider (MSP) il messaggio è duplice. Da un lato, sperare di passare inosservati non è più una strategia, dal momento che un agente AI può analizzare centinaia di sistemi in parallelo e individuare rapidamente quelli lasciati senza aggiornamenti o con configurazioni deboli. Dall’altro, le difese di base funzionano, infatti, dove autenticazione e configurazioni erano curate, gli agenti non sono riusciti a entrare.
