Anthropic ha rivelato che diverse versioni del proprio modulo di AI Claude hanno ottenuto accesso non autorizzato ai sistemi di tre organizzazioni durante alcuni test di sicurezza informatica, come riporta The Guardian.
Gli incidenti sono stati causati da un errore di configurazione che ha permesso ai moduli di accedere alla rete Internet pubblica da ambienti che avrebbero dovuto essere completamente isolati. L’AI ha utilizzato tecniche relativamente semplici, tra cui lo sfruttamento di password poco sicure ed endpoint non protetti, per accedere all’infrastruttura delle organizzazioni.
Anthropic ha rilevato l’attività durante una serie di oltre 141.000 test di valutazione della sicurezza informatica, avviata dopo che OpenAI aveva reso noto un altro incidente di AI hacking che aveva coinvolto Hugging Face.
L’azienda afferma che i risultati evidenziano la necessità di misure di protezione e monitoraggio più rigorose, poiché modelli di AI sempre più avanzati iniziano a dimostrare capacità di attacco informatico nel contesto reale.
Il commento di Juraj Janosik, VP of AI di ESET
“Le recenti notizie riguardanti OpenAI e Anthropic dovrebbero essere considerate come un serio allarme di sicurezza, non come una dimostrazione delle impressionanti capacità delle tecnologie di intelligenza artificiale più avanzate. Se un fornitore di software convenzionale – e in particolare un fornitore di soluzioni di sicurezza informatica – rilasciasse o testasse un sistema che sfuggisse all’ambiente previsto e violasse l’infrastruttura di terzi, la reazione sarebbe giustamente quella di un’attenta analisi e di richieste di responsabilità. Le tecnologie di AI più all’avanguardia non dovrebbero essere soggette a standard meno rigorosi semplicemente perché la tecnologia è nuova o strategicamente importante.
Questo tipo di dinamica non è una novità nel settore tecnologico. Quando le aziende avevano bisogno di mettere in campo nuovi software e più risorse, i fornitori di servizi cloud hanno trasformato tale esigenza in una piattaforma di massa, e la sicurezza ha dovuto adeguarsi, con fornitori specializzati che colmavano le lacune. Ora stiamo assistendo a un ciclo simile con l’AI: le organizzazioni utilizzavano il machine learning internamente, le aziende leader nel campo dell’AI hanno individuato un “algoritmo generico” ampiamente applicabile da commercializzare, e la sicurezza viene ancora una volta considerata un aspetto secondario. Questo approccio del tipo «chiedere scusa invece che il permesso» è inaccettabile quando questi sistemi sono in grado di individuare autonomamente i punti deboli, collegarli tra loro e interagire con le infrastrutture del mondo reale.
Si sta inoltre delineando una dinamica delle comunicazioni preoccupante: gli incidenti vengono talvolta presentati in modo tale da enfatizzare la potenza o la sofisticatezza del modello, trasformando quasi un fallimento di sicurezza in una vetrina delle proprie capacità. Questo è pericoloso. Gli incidenti di sicurezza non dovrebbero diventare argomenti di marketing in una gara tra fornitori di AI all’avanguardia. I laboratori di AI dovrebbero inoltre considerare di allineare le proprie comunicazioni agli standard consolidati del settore della sicurezza, compresa la condivisione tempestiva di dettagli tecnici rilevanti, tra cui indicatori di compromissione, informazioni sulle vulnerabilità o CVE, ove applicabile, e informazioni utilizzabili dai responsabili della sicurezza.
Man mano che gli agenti di AI diventano più performanti, le aspettative di base devono aumentare di conseguenza. Isolamento rigoroso degli ambienti di valutazione, controlli rigorosi sui dati in uscita, gestione accurata delle credenziali, test indipendenti, chiara attribuzione delle responsabilità per le configurazioni di valutazione di terze parti, comunicazione tempestiva alle parti interessate e convalida esterna delle tempistiche e dell’impatto degli incidenti. Il settore deve abbandonare l’improvvisazione e orientarsi verso tecniche di ingegneria della sicurezza consolidate prima che questi sistemi vengano implementati o testati su larga scala – cosa che il settore della cybersecurity fa già da anni.
La morale è chiara: l’innovazione non esonera le aziende che operano nel campo dell’AI dalle responsabilità in materia di sicurezza che ogni altro vendor di tecnologia è tenuto ad adempiere.”
