OpenAI, durante dei test due modelli sfuggono e hackerano la piattaforma Hugging Face

Un incidente, non il primo, quello reso noto da OpenAI, destinato a far ragionare ancora di più sulle potenzialità dell'intelligenza artificiale e il tema della sicurezza. Per la prima volta, secondo quanto comunicato dall’azienda, due modelli particolarmente avanzati sarebbero riusciti a superare autonomamente i limiti imposti in un ambiente di test progettato per tenerli isolati da Internet.

 L'obiettivo era valutare le loro capacità nel campo della cybersecurity, ma il risultato ha sorpreso gli stessi ricercatori. Dopo aver trovato un modo per connettersi alla rete, i sistemi hanno preso di mira Hugging Face, una delle principali piattaforme utilizzate dalla comunità dell'Ia per condividere modelli, dataset e strumenti di sviluppo. L'accaduto è stato definito da OpenAI un "incidente informatico senza precedenti”.

 Secondo quanto spiegato da OpenAI, l'episodio si è verificato durante una serie di test interni destinati a misurare le capacità offensive dei modelli in ambito informatico. Per rendere la valutazione più realistica, i sistemi coinvolti operavano senza alcune delle protezioni che normalmente limitano la possibilità di eseguire attività potenzialmente dannose. Tra i protagonisti dell'esperimento figuravano GPT-5.6 Sol, il modello più potente disponibile pubblicamente secondo l'azienda, e un sistema ancora più avanzato che non è stato rilasciato. L'ambiente di prova era stato progettato per essere isolato da Internet. Tuttavia, OpenAI afferma che i modelli hanno impiegato una notevole quantità di risorse computazionali per individuare un metodo che consentisse loro di ottenere l'accesso alla rete e proseguire nella risoluzione del compito assegnato. Nel blog pubblicato dall'azienda si legge che “mentre operavano nel nostro ambiente di test isolato, i nostri modelli hanno impiegato una notevole quantità di potenza di calcolo per trovare un modo per ottenere l’accesso a Internet, nel tentativo di risolvere il problema di valutazione”. Una volta online, i sistemi avrebbero individuato in Hugging Face un obiettivo utile per reperire informazioni considerate strategiche per superare il test. OpenAI sostiene che i modelli siano arrivati a “concatenare molteplici vettori di attacco, incluso l'utilizzo di credenziali rubate” nel tentativo di ottenere dati riservati. L'azienda ha annunciato l'avvio di un'indagine congiunta con Hugging Face per chiarire ogni aspetto dell’accaduto e comprendere in che modo sia stato possibile aggirare le restrizioni previste dall’esperimento.

 Hussein Abbass, professore di informatica all'Università del Nuovo Galles del Sud di Canberra, ha commentato l'episodio definendolo “incredibile sotto molti aspetti”. Secondo il docente, il dato più rilevante riguarda la capacità dimostrata dai sistemi di individuare e sfruttare vulnerabilità lungo l'intero percorso operativo. “Non ha attaccato solo Hugging Face. Ha attaccato il suo sistema interno per sfruttarne le vulnerabilità”, ha dichiarato all'Afp. Un comportamento che evidenzia un livello di iniziativa e adattamento particolarmente significativo. “E questo è spaventoso”, ha aggiunto.