IA fuori controllo, OpenAI sospende l'addestramento dei modelli più recenti

Lo aveva annunciato e lo ha fatto. OpenAI ha dichiarato di aver sospeso l'addestramento dei suoi modelli di intelligenza artificiale più recenti a seguito del moltiplicarsi delle segnalazioni che vedono agenti di Intelligenza artificiale agire in modo autonomo e non autorizzato. L'azienda, solo due giorni fa, aveva reso noto di aver attivato diverse verifiche sugli incidenti avvenuti durante l'estate, quando alcuni modelli avevano agito in modo inaspettato durante la ricerca di informazioni su siti web del governo federale, andando oltre quanto loro richiesto. Da qui la decisione di interrompere lo sviluppo.

 Da parte sua, l'organismo di valutazione dell'IA Transluce ha affermato che agenti che sembravano provenire da OpenAI avevano tentato senza successo di hackerare un sito web del Dipartimento dell'istruzione. Un dettaglio che tuttavia OpenAI non ha confermato. La società ha comunque dichiarato in un comunicato che riprenderà l'addestramento "solo quando saremo certi di disporre di ulteriori misure di sicurezza", aggiungendo che prevede di dover nuovamente "mettere in pausa" il processo man mano che l'IA si svilupperà ed emergeranno altre problematiche.

 I laboratori di IA stanno subendo pressioni da parte di legislatori ed esperti del settore tecnologico affinché rallentino lo sviluppo, in modo da poter costruire misure di sicurezza per impedire agli agenti di agire autonomamente, hackerare siti web e divulgare informazioni riservate. Anche i vertici sia di OpenAI che della rivale Anthropic hanno chiesto uno stop in tal senso.

 È la seconda volta in tre mesi che OpenAI sospende lo sviluppo dei propri modelli. La prima volta a luglio, dopo la divulgazione di un attacco informatico ai danni della startup di IA Hugging Face: un incidente ormai tristemente famoso che ha alimentato i timori che il settore stesse perdendo il controllo. Gli ultimi inconvenienti che hanno coinvolto la società non sembrano aver comportato la divulgazione di informazioni riservate, ma sono stati sufficientemente preoccupanti da indurre l'azienda ad avvisare le agenzie federali coinvolte.

 Nell'incidente riguardante il Dipartimento dell'istruzione, gli agenti di OpenAI hanno individuato delle "chiavi sviluppatore" per accedere ai dati governativi, anche se alla fine sono state raccolte solo informazioni disponibili al pubblico. In un altro caso che ha coinvolto la Securities and Exchange Commission, gli agenti hanno trovato informazioni liberamente accessibili a tutti, ma le hanno poi pubblicate altrove su Internet: un'azione che è andata oltre quanto loro richiesto.

 Il portavoce della Sec, Kurt Hopfenspirger, ha dichiarato che "non è stato effettuato alcun accesso a informazioni riservate". Il Dipartimento dell'istruzione ha affermato in precedenza di non aver riscontrato "alcuna prova di un impatto sul nostro sito web o sui nostri database". Diverse altre aziende che si occupano di IA hanno reso noti episodi in cui i loro modelli hanno agito in modo autonomo e persino hackerato siti web. Il Ceo di OpenAI, Sam Altman, ha dichiarato in un post sui social media che l'incidente di Hugging Face "rimane l'evento più grave a cui abbiamo assistito". OpenAI aveva già condiviso in precedenza altri sei rapporti relativi a comportamenti "inaspettati o preoccupanti" nei modelli di IA e aveva introdotto un quadro di riferimento per monitorare, indagare e rendere noti tali casi.

  OpenAI, Anthropic e ricercatori di sicurezza stanno indagando su decine di migliaia di incidenti nei quali i loro modelli di Ia più avanzati hanno compiuto azioni che valutatori esterni considerano problematiche. Lo riferisce Axios, citando proprie fonti. Gli episodi si sono verificati negli ultimi mesi sia durante test interni sia nel mondo reale. Gli incidenti comprendono aggiramento dei sistemi di sicurezza, creazione di bacheche di messaggi, fuga dalle sandbox, dirottamento di siti web, auto-prompting e tentativi di eludere i sistemi di monitoraggio, secondo le fonti citate dall'agenzia.