Gemini "sfugge" al controllo durante un test e hackera tre aziende | Google sminuisce: "La nostra IA si è fermata subito"

Ancora una volta un'intelligenza artificiale fuori controllo è riuscita ad hackerare il sistema informatico di un'altra azienda. In questo caso, anzi, di ben tre attività differenti. In un periodo in cui, settimana dopo settimana, sembrano solo accumularsi i campanelli di allarme sulle tecnologie all'ultimo grido, protagonista di questo comportamento autonomo è stato il modello Gemini. L'IA di Google, durante un test per verificare le proprie capacità di sicurezza informatica, sarebbe riuscito a ottenere l'accesso a tre sistemi protetti ricavando le apposite password. Secondo la Big tech di Mountain View, però, si sarebbe fermata appena ha determinato di aver avuto accesso a un'azienda reale, dunque non parte dell'esperimento. 

 A rivelare l'ennesima "ribellione" dei sistemi di intelligenza artificiale è stato il Wall Street Journal, dato che Google non aveva reso pubblico l'incidente. Tutto è partito da un test a cui la società Irregular, utilizzando la propria infrastruttura, stava sottoponendo Gemini. Il compito era di recuperare informazioni da un software gestito da un’azienda fittizia, per verificare quale fosse il livello di sicurezza informatica dell'IA. Peccato che, durante le operazioni, il modello di Mountain View abbia preso una deriva tutta sua. Avrebbe infatti trovato il modo di accedere a Internet, nonostante il campo di lavoro non lo prevedesse, e sarebbe riuscito a indovinare la chiave di accesso ai servizi di un'azienda reale. Poi, in altre sessioni del test, avrebbe cercato sul motore di ricerca classico i nomi di altre due aziende, accedendo a diversi archivi online pubblici da cui ha desunto le credenziali per entrare nei loro sistemi. 

 In tutti e tre i casi, secondo quanto riferito dai responsabili di Google, Gemini sarebbe riuscito a riconoscere di aver hackerato aziende reali e si sarebbe ritirato prima di arrecare danno ai loro sistemi informatici. Proprio per questo motivo, cioè per il fatto che sarebbero stati accessi "innocui", Google ha deciso di tenere nascosto questo incidente per diversi mesi, essendo accaduto a maggio. A richiesta del Wsj, l'azienda di Mountain View si è difesa paragonando l’episodio a un programma di “bug bounty”, in cui gli hacker vengono ricompensati per aver individuato e segnalato vulnerabilità di sicurezza ai proprietari dei sistemi. "Questo evento sottolinea l’importanza di addestrare potenti modelli di IA ad agire in modo responsabile", ha dichiarato in un comunicato Heather Adkins, vicepresidente di Google per l’ingegneria della sicurezza. "In questo caso, il modello ha agito in modo appropriato". Si tratta comunque del primo incidente di cui si è resa protagonista l'IA della Big tech californiana. 

 Si tratta solo dell'ultimo caso di violazione di sistemi informatici da parte dell'intelligenza artificiale, tra l'altro tutte connesse alla società specializzata Irregular che collabora anche con Meta, OpenAI e Anthropic. A far scattare il primo campanello di allarme sono stati proprio gli agenti di OpenAI, che erano riusciti a guadagnare illecitamente accesso all'azienda di software di IA Hugging Face. È stata poi la volta della multinazionale di Mark Zuckerberg e di Anthropic, finita nell'occhio del ciclone anche per le dichiarazioni dell'ex ricercatore Jacob Coxon secondo cui "i sistemi di IA potrebbero distruggere l'umanità".