Nuovo allarme di OpenAi: "Sei nuovi casi di comportamenti imprevisti o preoccupanti di modelli"

In un post pubblicato sul suo blog, la statunitense OpenAI ha presentato sei nuovi rapporti su comportamenti imprevisti o preoccupanti riscontrati con i suoi modelli di intelligenza artificiale osservati negli ultimi sei mesi. Con la pubblicazione, OpenAI intende contribuire a "costruire un consenso più ampio e informato sui progressi della ricerca" relativa all'intelligenza artificiale, con i report che "possono aiutare a identificare problemi che altri sviluppatori di AI potrebbero incontrare quando i loro sistemi raggiungono capacità simili, rivelare debolezze nelle misure di sicurezza o mettere in discussione le ipotesi sul comportamento dei modelli".

 Al di fuori dell'incidente che ha coinvolto Hugging Face lo scorso luglio, OpenAi continua, dunque, a invocare un rafforzamento delle misure di sicurezza nello sviluppo di modelli IA. In un messaggio sul suo blog, l'azienda ha delineato un nuovo quadro di riferimento che intende seguire per segnalare futuri comportamenti anomali dei modelli. "Non riteniamo che il settore abbia risolto le questioni relative all'allineamento e al monitoraggio in misura sufficiente da poter continuare a crescere responsabilmente alla massima velocità ancora a lungo", recita il comunicato. Il concetto di "allineamento" fa riferimento alla coerenza tra interessi umani e risultati generati dai modelli.

OpenAI ha spiegato che due modelli, uno di ricerca non ancora rilasciato e una sessione di addestramento di GPT'5.6 Sol, hanno inserito istruzioni destinate a versioni future di se' stessi nei riepiloghi delle finestre di chat, "per celare all'utente errori o comportamenti non allineati". Un altro caso ha coinvolto un modello a uso interno che ha utilizzato una chiave Api trapelata "senza autorizzazione", arrivando poi a fabbricare dati. Altri due casi hanno coinvolto modelli e agenti che comunicavano tra loro tramite bacheche di messaggistica e sistemi di condivisione file non autorizzati, mentre l'ultimo caso ha visto due modelli, durante la fase di addestramento, caricare file su Internet per poterli citare come risposte pertinenti agli occhi dei valutatori umani.

 Monta, intanto, la tensione dentro Anthropic e OpenAI dopo che l'amministratore delegato del primo gruppo, Dario Amodei, ha proposto di rallentare lo sviluppo dell'intelligenza artificiale con il leader del secondo, Sam Altman, che si è schierato con lui in una rara dimostrazione di unità. Lo scrive il Financial Times, secondo cui lo staff dei produttori di Claude e ChatGPT stanno correndo per trasformare in realtà quanto proposto.

Stando al quotidiano finanziario, ben poco è internamento pronto per farlo. Il giornale sostiene anche che i dipendenti dei due gruppi sono stati colti di sorpresa quando sabato Amodei ha pubblicato la sua proposta in un articolo di 3.800 parole. Pur essendo d'accordo sul bisogno di rallentare lo sviluppo della tecnologia, temono che il loro lavoro sia messo a repentaglio se davvero verranno inseriti valutatori esterni per supervisionare lo sviluppo dei modelli. Questo, secondo il Financial Times, rappresenta una fonte di "conflitto". Alcuni membri del personale sono preoccupati di concedere agli estranei troppo accesso a sistemi che sono sia estremamente potenti sia al centro di una forte competizione nell'industria tecnologica.