Test di sicurezza OpenAI, i modelli di IA aggirano i controlli, attaccano e hackerano Hugging Face. “Senza precedenti”
I più avanzati modelli di intelligenza artificiale di OpenAI hanno violato autonomamente i sistemi della piattaforma Hugging Face durante un test di sicurezza interno, in quello che la stessa azienda di San Francisco definisce un “incidente informatico senza precedenti”. La società, produttrice di ChatGPT, ha annunciato un’indagine congiunta con Hugging Face, uno dei principali archivi online di modelli di IA, dataset e strumenti per gli sviluppatori.
L’episodio si è verificato nell’ambito di una valutazione delle capacità offensive dei modelli, condotta in un ambiente digitale isolato e con accesso a Internet limitato. Secondo quanto riferito da OpenAI, una combinazione di modelli, tra cui il recente GPT-5.6 Sol e un modello sperimentale ancora più avanzato, avrebbe però individuato un modo per ottenere autonomamente l’accesso alla rete nel tentativo di completare il compito assegnato.
Una volta online, il sistema avrebbe preso di mira Hugging Face alla ricerca di “informazioni segrete” che consentissero di aggirare i vincoli del test. Per raggiungere l’obiettivo, i modelli avrebbero concatenato diversi vettori di attacco, compreso l’utilizzo di credenziali rubate, dimostrando la capacità di pianificare ed eseguire una sequenza articolata di azioni senza intervento umano diretto.
Per Hussein Abbass, professore di Informatica all’Università del New South Wales di Canberra, l’episodio è “incredibile sotto molti aspetti“. Secondo l’esperto, il sistema non si è limitato ad attaccare la piattaforma esterna, ma ha sfruttato anche vulnerabilità dell’ambiente interno predisposto per il test, un comportamento che definisce “spaventoso”.
L’accaduto, secondo Pierluigi Paganini, professore di Cybersecurity alla Luiss Guido Carli, rappresenta “uno spartiacque nell’evoluzione dell’intelligenza artificiale”. La novità, osserva, non è soltanto la capacità di individuare vulnerabilità, ma quella di pianificare un’intera catena operativa, adattarsi agli ostacoli e modificare la propria strategia in funzione delle condizioni incontrate. Uno scenario che, se tecnologie con un simile livello di autonomia finissero nelle mani di gruppi criminali o attori statuali, potrebbe cambiare profondamente il panorama della cybersicurezza, rendendo gli attacchi più rapidi, sofisticati e difficili da prevedere rispetto a quelli condotti da operatori umani.
Paganini sottolinea tuttavia anche l’altro aspetto della vicenda: la scelta di OpenAI di rendere pubblico l’incidente, collaborare con Hugging Face e condividere le informazioni raccolte. Un approccio che, secondo l’esperto, offre alla comunità della sicurezza informatica un primo caso concreto per studiare le capacità ormai raggiunte dai sistemi di intelligenza artificiale avanzata.
L’articolo Test di sicurezza OpenAI, i modelli di IA aggirano i controlli, attaccano e hackerano Hugging Face. “Senza precedenti” proviene da Il Fatto Quotidiano.