Jacob Coxon, 27 anni, ha annunciato le sue dimissioni da Anthropic, la società statunitense di pubblica utilità nel settore dell’intelligenza artificiale con sede a San Francisco, avvertendo che l’evoluzione dei sistemi di IA potrebbe diventare un rischio esistenziale per l’umanità entro la fine del decennio, cioè entro il 2030.
Nel post con cui ha comunicato l’addio su X, Coxon ha scritto che “le persone che sviluppano l’IA credono sinceramente che essa possa ucciderci tutti entro la fine del decennio” e ha definito il pericolo distintivo rispetto ad altre attività umane. Secondo il ricercatore, la corsa alla creazione di una superintelligenza in grado di auto-migliorarsi e di acquisire risorse reali rappresenta una minaccia concreta.
Coxon, che in precedenza ha lavorato per OpenAI prima di passare ad Anthropic, ha avvertito che presto si tratterà di sistemi sovrumani capaci di hackerare infrastrutture e rivoluzionare settori “dall’oggi al domani”, conquistando potere e risorse reali.
L’uscita di Coxon si inserisce in una serie di dimissioni di figure chiave che hanno interessato l’azienda negli ultimi mesi: la eticista Chloé Bakalar, Johannes Heidecke (responsabile del team Safety Systems), Joshua Achiam (già responsabile della Mission Alignment), il direttore operativo Brad Lightcap e il ricercatore Andrew Ho, quest’ultimo dimessosi per divergenze tecniche.
Anthropic è nota per avere posto la sicurezza dell’IA al centro della propria immagine pubblica. Contemporaneamente l’azienda si sta preparando a una possibile offerta pubblica iniziale (Ipo) che potrebbe portare la valutazione fino a mille miliardi di dollari.
Un altro ricercatore di spicco nel campo della sicurezza presso Anthropic, Evan Hubinger, ha confermato le preoccupazioni espresse da Coxon, stimando una probabilità superiore al 10% che l’intelligenza artificiale possa “sterminare tutta l’umanità” entro il prossimo decennio. Hubinger ha anche detto che il rischio derivante dai modelli attualmente esistenti è “basso”, pur esprimendo preoccupazione per il rapido sviluppo della tecnologia.
