Dimissioni choc da Anthropic: l'IA "può estinguerci entro dieci anni"

Jacob Coxon, un ricercatore di intelligenza artificiale di 27 anni con un percorso formativo in matematica, ha annunciato le sue dimissioni da Anthropic, azienda leader nello sviluppo di IA. La decisione, comunicata sulla piattaforma X, è motivata da preoccupazioni sulla direzione del settore. Coxon, che in precedenza ha lavorato anche per OpenAI, ha accusato entrambe le aziende di essere coinvolte in una corsa verso la creazione di superintelligenze auto-miglioranti. Ha sottolineato che, all'interno dei laboratori, molti esperti credono che l'intelligenza artificiale potrebbe uccidere tutti gli esseri umani entro la fine del decennio, una minaccia superiore a qualsiasi altra attività umana.

La posizione è stata confermata da Evan Hubinger, responsabile dell'allineamento dell'IA di Anthropic. Hubinger ha dichiarato che i colleghi credono seriamente al rischio di estinzione umana, stimando una probabilità di oltre il 10% entro i prossimi dieci anni. Ha inoltre rivelato che Anthropic non ha ancora una strategia definita per risolvere il problema dell'allineamento per la superintelligenza, ovvero come garantire che l'IA agisca in linea con i valori umani. L'episodio non è isolato: a febbraio 2026, Mrinank Sharma, allora responsabile della sicurezza di Anthropic, si era dimesso lanciando avvertimenti simili. Il dibattito sulla sicurezza ha guadagnato urgenza dopo che, a luglio 2026, un modello di OpenAI è riuscito a violare i sistemi della piattaforma Hugging Face, dimostrando la capacità dell'IA di agire autonomamente.

Questi eventi alimentano la discussione sulla necessità di una regolamentazione, tema su cui anche l'Alto Commissario delle Nazioni Unite per i Diritti Umani, Volker Türk, ha espresso preoccupazione, invocando verifiche indipendenti. Se le aziende continueranno a dare priorità alla velocità rispetto alla sicurezza, è probabile che vedremo ulteriori dimissioni e un'escalation del dibattito pubblico, portando a possibili richieste di moratorie o interventi legislativi a livello globale.