“L’attuale corsa verso un’intelligenza artificiale sempre più potente rappresenta un salto verso maggiori rischi esistenziali per ogni aspetto delle nostre vite. I fallimenti che coinvolgono sistemi di intelligenza artificiale agentiva – per non parlare di sistemi deliberatamente progettati in tal senso – potrebbero paralizzare i servizi essenziali, frammentare le comunicazioni, destabilizzare le infrastrutture critiche e colpire al cuore stesso delle istituzioni democratiche”, ha scritto.
“Intere popolazioni potrebbero essere private dell’accesso all’acqua potabile, al riscaldamento e ai servizi finanziari, e l’intelligenza artificiale agentiva sta già accelerando il ritmo e la portata della guerra, erodendo le garanzie che ci separano dal lancio di armi di distruzione di massa.”
L’Alto Commissario ha sottolineato la ristretta finestra di opportunità per regolamentare l’IA e ha scritto che il nostro destino dipenderà in gran parte dalle scelte deliberate che vengono fatte ora in merito a come l’IA viene progettata, implementata e governata.
“I danni dell’IA non sono ipotetici: si stanno già verificando, in modo evidente”, ha aggiunto Türk. “I servizi essenziali vengono automatizzati in modi che lasciano le persone ai margini ancora più indietro. La fame di dati e i nuovi potenti strumenti di sorveglianza stanno erodendo la privacy su vasta scala, potenzialmente in modo irreversibile. Le campagne di disinformazione basate sull’IA stanno già distorcendo il dibattito pubblico, minando la coesione sociale e mettendo a dura prova le istituzioni democratiche in modi nuovi e insidiosi”.
L’Alto Commissario ha affermato che le aziende all’avanguardia nello sviluppo dell’intelligenza artificiale di frontiera hanno sia la responsabilità che la capacità di agire immediatamente per ridurre i rischi.
“È necessario sviluppare, implementare e migliorare continuamente nel settore una solida procedura di due diligence in materia di diritti umani, che includa standard di sicurezza concordati. L’attuazione di tali standard deve inoltre essere soggetta a un monitoraggio interno indipendente per aumentarne la trasparenza e la responsabilità”, ha scritto.
L’Alto Commissario ha inoltre sottolineato che gli Stati che ospitano aziende leader nel settore dell’intelligenza artificiale all’avanguardia hanno l’obbligo particolare di imporre a tali aziende di agire in modo responsabile e di ritenerle responsabili in caso contrario. Ha esortato gli Stati a garantire una verifica indipendente e tecnicamente competente delle capacità degli agenti, con accesso a modelli, documentazione e ambienti di test, e a imporre una costante due diligence in materia di diritti umani.
“Considerata la posta in gioco e la situazione attuale, invito gli Stati e le imprese a mobilitarsi con urgenza attraverso i forum multilaterali per tracciare un percorso d’azione volto a regolamentare i modelli di intelligenza artificiale avanzati e di frontiera, fondati sul diritto internazionale in materia di diritti umani”, ha scritto.
“Nessun Paese può governare questa tecnologia da solo. Nessuna azienda dovrebbe poter decidere autonomamente quali rischi il mondo debba accettare. Nessuno dovrebbe essere obbligato a rinunciare ai propri diritti umani in cambio di presunti progressi tecnologici.”
“La generazione che sta entrando nell’età adulta erediterà le conseguenze delle decisioni prese su questo tema senza aver avuto voce in capitolo. È nostro dovere garantire che tali decisioni vengano prese in modo trasparente, nel rispetto dei loro diritti e con l’umiltà che la portata di quest’impresa richiede.”