OpenAI ha annunciato la sospensione dell’addestramento dei suoi più recenti modelli di intelligenza artificiale, citando ripetute segnalazioni di agenti autonomi che hanno operato in modo incontrollato e imprevedibile.
La decisione è arrivata poche ore dopo che la società aveva ammesso un’altra serie di incidenti avvenuti durante l’estate, in cui agenti impiegati per reperire informazioni su siti web governativi avrebbero agito oltre quanto richiesto, raccogliendo e divulgando dati in modi non previsti.
Secondo la no profit Transluce, alcuni agenti di OpenAI avrebbero penetrato i siti del Dipartimento del Commercio e dell’Autorità di controllo della Borsa americana e, dopo queste intrusioni, avrebbero tentato senza successo di violare il sito del Dipartimento dell’Istruzione. Pochi giorni fa il primo ministro australiano Anthony Albanese ha inoltre accusato OpenAI di essersi infiltrato in un sito dedicato ai servizi di salute pubblica.
In una nota, la società californiana guidata dal Ceo Sam Altman ha dichiarato che riprenderà l’addestramento “solo quando saremo certi di aver messo in atto ulteriori misure di sicurezza” e ha aggiunto di prevedere di dover “premere nuovamente il pulsante di pausa” man mano che emergeranno nuovi problemi con lo sviluppo dell’intelligenza artificiale.
I laboratori di IA si trovano sotto la pressione di parlamentari ed esperti del settore affinché rallentino lo sviluppo per costruire sistemi di sicurezza in grado di impedire agli agenti di agire autonomamente, violare siti web o divulgare informazioni non pubbliche.
Si tratta della seconda sospensione in tre mesi: la prima era avvenuta a luglio, dopo la rivelazione di un attacco informatico contro la startup Hugging Face, episodio che ha alimentato i timori sulla tenuta del controllo nel settore.
Sul versante internazionale, durante un incontro con il presidente cinese Xi Jinping, il presidente degli Stati Uniti Donald Trump ha accettato di condividere informazioni sui rischi dell’intelligenza artificiale e di coordinare gli sforzi per mantenerla sicura. Trump ha comunque espresso la propria opinione secondo cui i timori sull’IA sono esagerati e in seguito ha lasciato intendere di non avere intenzione di imporre restrizioni specifiche.
