Nell’articolo di seguito, Oded Vanunu, Chief Technologist e responsabile della ricerca sulle vulnerabilità dei prodotti presso Check Point Software scrive di come ChatGPT Atlas abbia dato inizio ad una nuova era rivoluzionaria del computing, l’era dell’informatica basata sull’Intelligenza Artificiale. Cosa accadrà adesso?
Buona lettura!
ChatGPT Atlas: il primo passo verso i sistemi operativi basati sull’intelligenza artificiale
Il browser ChatGPT Atlas di OpenAI è il prototipo di come utilizzeremo i computer in futuro. Entro pochi anni, i sistemi operativi saranno basati sull’intelligenza artificiale e gli utenti interagiranno tramite comandi invece di cliccare sulle applicazioni. Basterà descrivere ciò che si desidera e l’intelligenza artificiale orchestrerà tutto attraverso il sistema, le app e Internet.
Non si tratta di speculazioni, ma della logica evoluzione dell’informatica. ChatGPT Atlas dimostra oggi questa visione: l’intelligenza artificiale al centro dell’esperienza informatica, in grado di comprendere il contesto dell’intera vita digitale e di agire per conto dell’utente. I prossimi anni determineranno se questa trasformazione avverrà in modo sicuro.
La sfida della sicurezza: fiducia e confini che si dissolvono
La sicurezza informatica si basa fondamentalmente sulla fiducia e sui confini. L’informatica tradizionale mantiene confini chiari: le app funzionano in modo isolato, i siti web non possono accedere ai dati degli altri, gli utenti approvano ogni azione. L’informatica basata sull‘intelligenza artificiale dissolve questi confini.
I browser sono già tra le superfici di attacco più sfruttate nell’informatica. Sono la porta d’accesso alle sessioni autenticate e ai dati sensibili. Aggiungendo l’intelligenza artificiale che opera con i pieni privilegi personali su tutte le sessioni di accesso (banca, e-mail, assistenza sanitaria e sistema aziendale), la superficie di attacco si espande notevolmente.
Il nuovo vettore di attacco: comandi invisibili
I browser AI come ChatGPT Atlas introducono una pericolosa vulnerabilità: l’iniezione indiretta di prompt. Istruzioni malevole nascoste nel contenuto delle pagine web possono dirottare l’assistente AI per eseguire azioni non autorizzate. Gli aggressori incorporano comandi in un testo quasi invisibile che gli esseri umani non possono vedere, ma che l’Intelligenza Artificiale legge perfettamente.
Quando un browser AI elabora una pagina web, non è in grado di distinguere le vostre istruzioni legittime dai comandi dannosi nascosti nel contenuto. I tradizionali confini di sicurezza diventano inefficaci quando gli agenti AI agiscono con i tuoi pieni privilegi. L’IA segue i comandi nascosti come se provenissero da te, perché tratta tutto il testo come potenzialmente eseguibile.
Le dimostrazioni hanno mostrato come un singolo URL malevolo possa sottrarre e-mail, dati del calendario e credenziali, perché l’assistente AI ha accesso a tutto ciò che fai.
La sfida della privacy
I browser AI come ChatGPT Atlas richiedono un accesso ai dati senza precedenti per funzionare in modo efficace. Più informazioni sono disponibili sulla cronologia di navigazione, sui documenti, sulle comunicazioni e sul comportamento dell’utente, più diventano utili. Ma questo crea una tensione fondamentale: ogni pagina web visitata, ogni modulo compilato, ogni sessione autenticata diventa un dato di addestramento per l’IA per comprendere meglio l’utente.
Informazioni sensibili, dati finanziari, cartelle cliniche, comunicazioni aziendali riservate: tutto passa attraverso questi sistemi. L’IA deve elaborare tutto per fornire un’assistenza intelligente, creando un’infrastruttura di sorveglianza completa, anche se non intenzionale.
L’era dell’informatica basata sull’intelligenza artificiale è iniziata
La trasformazione da interfacce basate su applicazioni a interfacce basate sull’intelligenza artificiale è inevitabile: i vantaggi economici e in termini di esperienza utente sono troppo allettanti. La domanda è se saremo in grado di garantire un livello di sicurezza adeguato prima che la diffusione su larga scala crei vulnerabilità sistemiche.
Il settore deve stabilire principi di sicurezza fin dalla progettazione: ciò significa isolamento architetturale tra i comandi dell’utente e i contenuti web non affidabili, conferma esplicita da parte dell’utente per le azioni sensibili dal punto di vista della sicurezza e controlli granulari delle autorizzazioni per le funzionalità di intelligenza artificiale.
Le organizzazioni dovrebbero trattare i browser AI come tecnologie ad alto rischio che richiedono un monitoraggio rafforzato, policy di utilizzo accettabile chiare e restrizioni all’accesso ai dati sensibili fino a quando le pratiche di sicurezza non saranno mature.
Le autorità di regolamentazione hanno bisogno di quadri normativi specificamente progettati per i rischi legati al computing nativo dell’IA, che affrontino la trasparenza del trattamento dei dati, la divulgazione degli incidenti di sicurezza e la responsabilità quando i sistemi di IA agiscono in modo autonomo.
ChatGPT Atlas è la mossa iniziale nella trasformazione del computing verso interfacce native dell’IA. I prossimi 24 mesi determineranno se la sicurezza riuscirà a stare al passo con l’innovazione. I confini che ci hanno protetto per decenni si stanno dissolvendo. Chi costruirà per primo protezioni adeguate definirà la prossima generazione di computing per miliardi di persone in tutto il mondo.
di Oded Vanunu, Chief Technologist e responsabile della ricerca sulle vulnerabilità dei prodotti presso Check Point Software
