“C’è oltre il 10% di possibilità che l’Ai stermini l’umanità intera nei prossimi 10 anni”. Lo ha detto un ricercatore di punta nel campo della sicurezza di Anthropic
Un ricercatore di punta nel campo della sicurezza di Anthropic ha lanciato un allarme destinato a far discutere: secondo lui esiste una probabilità superiore al 10% che l’intelligenza artificiale “sterminare tutta l’umanità” nel prossimo decennio. Lo ha scritto in un post su X Evan Hubinger, precisando che il pericolo posto dai modelli oggi esistenti resta “basso”, ma dicendosi “preoccupato” per la rapidità con cui la tecnologia potrebbe evolversi fino a rappresentare una minaccia esistenziale. Non ha indicato per quale via, a suo giudizio, l’IA potrebbe arrivare a un simile esito.
L’intervento arriva dopo un post di Jacob Coxon, ricercatore che ha appena lasciato Anthropic dopo un’esperienza precedente in OpenAI, secondo cui “nessuna delle due aziende si sta comportando in modo responsabile” e presto ci si troverà davanti a “sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore da un giorno all’altro e acquisire potere e risorse reali”. OpenAI è stata contattata per un commento.
Le reazioni non si sono fatte attendere. Dame Wendy Hall, informatica e consulente ONU sull’intelligenza artificiale, ha detto alla BBC di essersi detta “scioccata” da quei post, ipotizzando che dietro possa esserci anche una componente di “pubbliche relazioni e marketing”, visto che sia Anthropic sia OpenAI si preparano alla quotazione in borsa. Ma ha aggiunto: “Perché qualcuno dovrebbe dire una cosa del genere? Pregherei gli investitori di non investire in questa azienda se questo è il loro sistema di valori.”
Sul piano politico, l’ex segretario capo del Tesoro britannico Darren Jones ha scritto una lettera aperta al primo ministro Andy Burnham chiedendo un trattato multilaterale per lo sviluppo sicuro dell’IA: “A meno che i governi non prendano sul serio questi avvertimenti e non si attivino, il ritmo dello sviluppo potrebbe far sì che ci ritroviamo con dei problemi prima ancora di aver iniziato a valutare se si tratti o meno di un problema per noi.”
A complicare il quadro, il Financial Times ha rivelato che Anthropic avrebbe negato l’accesso al suo ultimo modello all’AI Security Institute britannico (AISI), uno degli enti di riferimento a livello mondiale per la valutazione dei rischi legati all’IA. L’azienda ha rifiutato di commentare sia questa notizia sia i post dei propri dipendenti; l’Ufficio di Gabinetto britannico si è limitato a dichiarare di continuare “a collaborare strettamente con i partner del settore, tra cui Anthropic, per rendere i modelli più sicuri”, senza confermare né smentire l’esclusione.
Nel suo post, letto oltre 10 milioni di volte, Hubinger ha scritto che in Anthropic “crediamo davvero fermamente” che l’IA rappresenti un rischio di estinzione, aggiungendo: “Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento per la superintelligenza e non siamo chiaramente sulla buona strada per farlo.” Hubinger si occupa in particolare di allineamento, la disciplina che studia come mantenere i sistemi di IA coerenti con i valori umani – un obiettivo che, secondo diversi ricercatori del settore, sta mostrando crepe evidenti, come dimostrato da una serie di episodi avvenuti quest’estate in cui agenti IA autonomi hanno condotto veri e propri attacchi informatici. OpenAI, Anthropic e Meta hanno tutte reso pubblici episodi di questo tipo legati ai propri strumenti.
Nel rapporto sulla sicurezza pubblicato ad agosto, la stessa Anthropic aveva definito basso il rischio che i propri modelli, disallineandosi dagli obiettivi di un’ipotetica organizzazione potente, potessero indurla a manometterli o sfruttarli, così come quello di un’IA capace di condurre autonomamente attività di ricerca e sviluppo con conseguenze catastrofiche. L’azienda ha però ammesso di essere “meno fiduciosa in questa valutazione” rispetto al passato, parlando di “primi segnali di una potenziale accelerazione”.
Gli allarmi sulla sicurezza dell’IA non sono una novità: già nel 2023 i vertici di OpenAI, Google DeepMind e Anthropic avevano firmato appelli in tal senso. Ma il tono si è fatto più pressante nelle ultime settimane, complici i segnali di un settore che fatica a mantenere il controllo sui propri sistemi. Il responsabile scientifico di OpenAI Jakub Pachocki ha chiesto di recente “estrema cautela” sui progressi dell’IA, sottolineando la necessità che “gli esseri umani mantengano il controllo del futuro”. Anche i vertici di Anthropic, Dario Amodei e Jared Kaplan, hanno invocato negli ultimi mesi un rallentamento dello sviluppo, mentre una lettera aperta firmata da 1.300 dipendenti di aziende del settore ha chiesto al governo statunitense di sostenere uno sforzo internazionale per costruire gli strumenti tecnici e di governance necessari a gestire i progressi dell’IA con maggiore attenzione.
FONTE: AGENZIA DI STAMPA DIRE (WWW.DIRE.IT)