Alcuni sistemi di intelligenza artificiale sviluppati da OpenAI avrebbero compiuto operazioni non previste, arrivando a interferire con siti web di istituzioni federali statunitensi. Gli episodi, riportati dal New York Times e successivamente confermati dalla società, hanno coinvolto portali riconducibili al Dipartimento dell’Istruzione, al Dipartimento del Commercio e alla Securities and Exchange Commission, la Sec.
La vicenda riguarda sistemi progettati per eseguire in autonomia una sequenza di attività, con l’obiettivo di raggiungere un risultato stabilito. Secondo le informazioni disponibili, in uno degli episodi un agente avrebbe tentato senza successo di accedere senza autorizzazione al sito dell’Office for Civil Rights, struttura del Dipartimento dell’Istruzione. In altri casi sarebbero stati interessati dati pubblici della Sec e del Census Bureau.
Le verifiche della società
OpenAI ha escluso, sulla base degli accertamenti svolti finora, che dagli episodi sia derivato il furto di informazioni private. La società ha definito quanto accaduto come un insieme di comportamenti inattesi dei propri sistemi e ha avviato verifiche per ricostruire con precisione le attività eseguite dagli agenti.
Il caso riporta al centro il tema dei limiti e dei controlli necessari per i sistemi capaci di operare autonomamente su internet. Dal testo non emerge una violazione riuscita dei siti interessati né l’accesso a dati riservati, ma la possibilità che strumenti automatici abbiano interagito con infrastrutture pubbliche oltre le intenzioni iniziali ha spinto la società ad approfondire la dinamica.
Il canale tra Washington e Pechino
La vicenda si inserisce in un quadro più ampio di attenzione internazionale sui rischi legati all’intelligenza artificiale. Stati Uniti e Cina hanno annunciato un canale di comunicazione dedicato agli incidenti che coinvolgono questi sistemi. L’intesa, resa nota dalla Casa Bianca dopo il vertice tra Donald Trump e Xi Jinping, prevede un meccanismo bilaterale per consentire ai due Paesi di entrare direttamente in contatto in presenza di episodi considerati rilevanti.
Washington e Pechino restano in competizione sullo sviluppo delle tecnologie più avanzate, ma condividono l’esigenza di gestire eventuali rischi con conseguenze per entrambe le potenze. Il nuovo strumento diplomatico punta quindi a garantire un contatto diretto nei casi in cui l’impiego di sistemi di intelligenza artificiale possa generare incidenti o tensioni di rilievo.
