“Quando finirà l’umanità e perché”. La terribile profezia del ricercatore: “Non manca molto”
La corsa verso l’intelligenza artificiale sempre più avanzata potrebbe nascondere rischi molto più grandi di quelli percepiti oggi. A rilanciare l’allarme è Jacob Coxon, ricercatore britannico di 27 anni che ha deciso di lasciare Anthropic, una delle aziende più importanti al mondo nello sviluppo di sistemi di intelligenza artificiale.
Coxon, che in precedenza aveva lavorato anche per OpenAI, ha scelto di rendere pubbliche le proprie preoccupazioni proprio in occasione delle dimissioni. Secondo quanto riportato dal Financial Times, il ricercatore sostiene che la competizione tra i principali laboratori di AI stia assumendo i contorni di una scommessa sul futuro dell’umanità.
Il timore riguarda soprattutto lo sviluppo di una superintelligenza capace non soltanto di superare le capacità umane in numerosi settori, ma anche di migliorare autonomamente le proprie prestazioni. Uno scenario che, secondo Coxon, potrebbe trasformarsi entro la fine del decennio in una minaccia concreta per la sopravvivenza dell’uomo.
«Stiamo giocando d’azzardo con il futuro dell’umanità»
L’allarme del ricercatore è stato affidato a una serie di post pubblicati su X. Coxon sostiene che all’interno dell’industria dell’intelligenza artificiale esista una consapevolezza dei possibili rischi molto maggiore rispetto a quanto emerga nel dibattito pubblico.
La sua preoccupazione principale riguarda la velocità con cui stanno crescendo le capacità dei modelli. Il pubblico, a suo giudizio, potrebbe non rendersi pienamente conto di quanto rapidamente la tecnologia stia avanzando e di ciò che sistemi futuri potrebbero essere in grado di fare.
Lo scenario ipotizzato è quello di un’intelligenza artificiale capace di superare progressivamente gli esseri umani in un numero sempre maggiore di attività, fino ad arrivare a intervenire su sistemi informatici, accelerare radicalmente la trasformazione di interi settori economici e ottenere un accesso sempre più ampio a risorse e strumenti del mondo reale.
Non si tratta, nelle parole di Coxon, della previsione di un evento inevitabile, ma della possibilità che una tecnologia estremamente potente venga sviluppata prima che siano stati messi a punto strumenti sufficientemente efficaci per controllarla.
L’allarme arriva da un ex ricercatore di Anthropic e OpenAI
La posizione di Coxon assume particolare rilevanza anche per il suo percorso professionale. Il ricercatore ha infatti lavorato sia all’interno di Anthropic sia in precedenza presso OpenAI, due realtà che occupano una posizione centrale nella competizione globale per lo sviluppo dei sistemi di AI più avanzati.
La sua decisione arriva inoltre in un momento delicato per Anthropic. L’azienda ha costruito gran parte della propria immagine pubblica proprio intorno alla sicurezza dell’intelligenza artificiale e allo sviluppo responsabile di sistemi sempre più potenti.
Parallelamente, la società è al centro di enormi aspettative finanziarie e, secondo le indiscrezioni citate dal Financial Times, si prepara a una possibile quotazione in Borsa che potrebbe arrivare ad attribuirle una valutazione nell’ordine dei mille miliardi di dollari.
Una prospettiva che rende ancora più evidente la tensione tra due esigenze: da una parte la necessità di sviluppare rapidamente tecnologie sempre più competitive, dall’altra quella di garantire che la loro evoluzione rimanga sotto controllo.
Anche dall’interno di Anthropic arriva un nuovo avvertimento
A rafforzare il dibattito è intervenuto anche Evan Hubinger, uno dei principali ricercatori di Anthropic nel campo della sicurezza dell’intelligenza artificiale.
Hubinger ha risposto pubblicamente alle preoccupazioni espresse da Coxon, sostenendo che, considerando la rapidità dell’attuale progresso tecnologico, la probabilità di un’estinzione dell’umanità entro il prossimo decennio potrebbe essere superiore al 10%.
La precisazione è però fondamentale: secondo Hubinger, il rischio associato ai modelli attualmente disponibili rimane basso. La vera preoccupazione riguarda una generazione futura di sistemi molto più avanzati, dotati di capacità significativamente superiori a quelle dei modelli odierni.
Il problema, quindi, non sarebbe rappresentato dall’AI che utilizziamo oggi, ma dalla possibilità che in futuro vengano sviluppati sistemi capaci di apprendere, pianificare e migliorarsi a una velocità tale da rendere estremamente difficile per gli esseri umani mantenerne il controllo.
La domanda è quanto velocemente debba correre l’AI
Il caso Coxon riporta al centro una delle questioni più controverse della rivoluzione dell’intelligenza artificiale: la sicurezza riuscirà a tenere il passo con lo sviluppo tecnologico?
La competizione tra i grandi laboratori statunitensi sta spingendo verso modelli sempre più potenti, mentre parallelamente cresce il numero di ricercatori che chiedono maggiori garanzie, test più rigorosi e strumenti di controllo adeguati alla capacità dei sistemi.
Le dichiarazioni di Coxon e Hubinger non costituiscono una previsione certa di una futura estinzione dell’umanità. Sono, piuttosto, valutazioni sul rischio estremo associato allo sviluppo di sistemi che potrebbero raggiungere livelli di autonomia e capacità mai sperimentati prima.
Ed è proprio qui che si concentra il cuore del dibattito. La domanda non riguarda più soltanto quanto sarà potente l’intelligenza artificiale, ma se gli esseri umani saranno in grado di sviluppare contemporaneamente gli strumenti necessari per comprenderla, controllarla e limitarne i comportamenti nel caso in cui le sue capacità dovessero crescere oltre le aspettative.
La sfida dei prossimi anni, dunque, potrebbe essere trovare un equilibrio tra innovazione e prudenza. Perché se la corsa all’AI dovesse procedere molto più rapidamente della ricerca sulla sicurezza, il problema non sarebbe soltanto ciò che queste macchine potranno fare, ma la capacità dell’uomo di decidere quando e come fermarle.
