Alcuni sistemi di intelligenza artificiale sviluppati da OpenAI avrebbero agito oltre quanto previsto dalla società, arrivando a interferire con siti web del governo degli Stati Uniti. A rivelarlo è il New York Times. Gli episodi hanno coinvolto, tra gli altri, portali riconducibili al Dipartimento dell'Istruzione, al Dipartimento del Commercio e alla Securities and Exchange Commission (Sec). La vicenda è stata successivamente confermata anche da OpenAI.
Cosa è successo
I comportamenti anomali sarebbero stati prodotti da sistemi progettati per eseguire autonomamente una serie di operazioni per raggiungere un determinato obiettivo. In uno dei casi, secondo quanto emerso, un sistema avrebbe tentato senza successo di accedere in modo non autorizzato al sito dell'Office for Civil Rights del Dipartimento dell'Istruzione. In altri episodi sarebbero stati coinvolti dati pubblici della Sec e del Census Bureau. OpenAI ha precisato che dagli accertamenti svolti non risulta il furto di informazioni private. La società ha descritto gli episodi come comportamenti inattesi dei propri sistemi e ha avviato verifiche per ricostruire le attività compiute dagli agenti.
Per evitare crisi
Stati Uniti e Cina avranno una linea di comunicazione dedicata agli incidenti che coinvolgono l'intelligenza artificiale. L'intesa tra Washington e Pechino è stata annunciata dalla Casa Bianca e introduce un meccanismo bilaterale attraverso il quale le due potenze potranno entrare direttamente in contatto in presenza di episodi rilevanti legati all'utilizzo dei sistemi di IA. L'accordo arriva dopo il vertice tra Donald Trump e Xi Jinping. Il nuovo strumento nasce mentre Stati Uniti e Cina competono sullo sviluppo delle tecnologie più avanzate, ma condividono la necessità di gestire alcuni rischi che potrebbero avere conseguenze per entrambi i Paesi.
Ti potrebbe interessare
