Jacob Coxon, 27 anni, ha annunciato le proprie dimissioni da Anthropic e lanciato un allarme sulla pericolosità dell’intelligenza artificiale. In un post su X ha detto che chi sviluppa questi sistemi ritiene possibile che l’IA “possa ucciderci tutti entro la fine del decennio” e ha aggiunto che non si tratta di una strategia promozionale.
Secondo Coxon, ex dipendente di OpenAI passato poi ad Anthropic, la corsa verso modelli sempre più potenti rischia di produrre entro il 2030 sistemi sovrumani capaci di hackerare infrastrutture, rivoluzionare settori dall’oggi al domani e conquistare potere e risorse concrete.
La notizia si inserisce in una serie di uscite dall’azienda statunitense con sede a San Francisco: a fine luglio è andata via Chloé Bakalar, unica eticista dedicata; in seguito hanno lasciato Johannes Heidecke, responsabile del team Safety Systems, Joshua Achiam, già a capo della Mission Alignment, il direttore operativo Brad Lightcap e il ricercatore Andrew Ho, dimessosi per divergenze tecniche.
Anthropic, realtà strutturata come benefit corporation che ha fatto della sicurezza dell’IA uno dei suoi punti distintivi, si prepara a una possibile offerta pubblica iniziale che potrebbe portare la valutazione dell’azienda a mille miliardi di dollari.
L’allarme di Coxon trova eco anche all’interno dell’azienda: Evan Hubinger, ricercatore nel campo della sicurezza presso Anthropic, ha dichiarato che l’evoluzione dei modelli procede rapidamente e ha stimato una probabilità superiore al 10% che l’IA possa sterminare l’umanità entro il prossimo decennio. Hubinger ha comunque definito il rischio legato ai modelli attuali come “basso”, pur esprimendo preoccupazione per possibili sviluppi futuri.
