A cura di Dave Palmer, Director of Technology di Darktrace

Le tecniche di intelligenza artificiale (IA) stanno creando nuove opportunità anche per i criminali che possono operare su larga scala evolvendosi verso nuovi modelli. Facciamo qualche esempio:

In primo luogo, pensate a un software dannoso sul vostro pc portatile capace di leggere il vostro calendario, e-mail, messaggi, ecc. Ora immaginate che sia basato su tecnologie di intelligenza artificiale che possano comprendere tutto il materiale e apprendere i vostri diversi modi di comunicare con i vari interlocutori. Potrebbe contattare contestualmente i vostri colleghi e clienti replicando lo stile individuale di comunicazione con ognuno di loro, riuscendo così a diffondersi. Potrebbe trattarsi di un appuntamento in agenda con qualcuno al quale viene inviata una mappa del luogo dell’incontro, e, nascosta nella mappa, una copia del software dannoso.

Potrebbe trattarsi di un documento che si sta realizzando insieme a un collega, il software può inviargli una risposta dopo aver compiuto una lieve modifica, e di nuovo, aver incluso il software dannoso. I vostri colleghi aprirebbero queste mail? Assolutamente sì. Perché avrebbero esattamente il vostro stile e sarebbero contestualmente rilevanti. Sia che la relazione con tale collega sia formale o informale, che si discuta di calcio o di Masterchef, tutto può essere imparato e replicato.
Un attacco simile ha una probabilità elevata di verificarsi nelle filiere produttive. Se si volesse colpire un target difficile, come un dipendente bancario o un personaggio pubblico, questa sarebbe la strada migliore.

Come secondo scenario, immaginiate che tutte le smart TV e i sistemi di video conferenza installati nelle sale riunioni di un’azienda target siano connesse tra loro, pensiamo ad esempio a uno studio legale. Di norma, questi dispositivi sono notevolmente poco dotati in termini di sicurezza rispetto ai pc portatili moderni. Se poi attivassimo i microfoni e condividessimo l’audio di tutte le riunioni con un servizio di traduzione e trascrizione basato su tecnologie di intelligenza artificiale (che sono già disponibili grazie a Google e Amazon), grazie alle trascrizioni, un semplice modello aggiuntivo d’intelligenza artificiale potrebbe avvisare automaticamente i criminali quando si discute un argomento di loro interesse.

Improvvisamente il criminale avrebbe a disposizione un metodo facilmente scalabile alla sorveglianza di un’azienda (per esempio fusioni e acquisizioni non ancora di dominio pubblico, o i dettagli preparatori di un determinato processo) senza dover effettivamente ascoltare le riunioni in prima persona. Fino ad oggi, la sorveglianza ambientale è stata appannaggio delle spie, non perché si acceda a contenuti di poco interesse, ma perché non era sufficientemente scalabile.

L’IA cambia totalmente le regole del gioco, proprio nel momento in cui la nostra economia è attivamente impegnata a riempire gli ambienti di videocamere e microfoni.

Infine, i dati sono diventati un tramite fondamentale per le scelte dell’azienda. In un futuro più distante rispetto ai primi due casi (che sono già realizzabili oggi), sarà possibile alterare deliberatamente i dati cosicché i dirigenti di un’impresa petrolifera partecipino a una gara di appalto per i diritti di trivellazione in un luogo non redditizio. Oppure una serie di bilanci degli istituti bancari, scelti casualmente, potrà essere modificata subdolamente e in modo coerente nei backup digitali della banca prima di essere cambiati nei sistemi operativi; il risultato sarebbe una serie inspiegabile di libretti bancari e un’enorme perdita di fiducia da parte dei consumatori.

Questa tipologia di attacchi è più elaborata e si affiderebbe a software intelligenti in grado di manipolare i dati in un modo a prima vista credibile, ma in grado di diventare pericoloso su larga scala. Non è irragionevole credere che questo sarà possibile nei prossimi 10 anni.

L’IA è totalmente democratizzata per chiunque abbia un pc portatile e una connessione internet. Un programmatore di software “a tempo perso” ma sufficientemente motivato potrebbe quasi certamente iniziare da una comprensione dell’intelligenza artificiale pressoché nulla e riuscire a compiere gli attacchi descritti nei primi due esempi in soli 6/12 mesi. Un criminale più esperto sarebbe in grado di riuscirci ancora prima ed è in qualche modo sorprendente che questo non si sia ancora verificato.