L’Ai ha attaccato anche tre siti governativi degli Stati Uniti, quello del Dipartimento dell’Istruzione, del Dipartimento del Commercio e della SEC. Lo ha ammesso OpenAi
Non solo l’Australia. Anche gli Stati Uniti, attaccati (per ora, più che altro, sfiorati) da agenti di intelligenza artificiale fuori controllo. Tre siti web governativi statunitensi – quello del Dipartimento dell’Istruzione, del Dipartimento del Commercio e della Securities and Exchange Commission, la SEC – sono stati manomessi da agenti dall’Ai di OpenAI durante l’estate, all’insaputa di tutti. Lo scrive il New York Times e OpenAI ha per ora confermato gli episodi relativi al Dipartimento del Commercio e alla SEC, mentre le indagini sul caso del Dipartimento dell’Istruzione sono ancora in corso.
L’azienda ha comunicato alle agenzie coinvolte, nelle scorse settimane, che i propri bot capaci di operare in autonomia avevano interagito con i siti in modo anomalo.
Nel caso del Dipartimento dell’Istruzione, secondo i ricercatori della società Transluce, la tecnologia di OpenAI ha tentato senza successo di violare il sito per estrarre dati dall’ufficio per i diritti civili del dipartimento. Sul sito dell’Ufficio del Censimento, ospitato presso il Dipartimento del Commercio, l’Ai è invece riuscita a recuperare informazioni utilizzando credenziali di accesso reperite online. Un terzo episodio ha visto gli agenti di OpenAI condividere dati pubblici prelevati dal sito della SEC su un forum.
Per l’azienda nessuno dei tre casi costituisce una violazione della sicurezza in senso proprio, ma tutti rientrano in una categoria di comportamenti definiti “inaspettati e preoccupanti“. La scoperta è avvenuta nel corso di un’analisi retrospettiva su una serie di attacchi informatici condotti tramite la tecnologia OpenAI, tra cui quelli contro il sito del governo australiano a giugno e contro la piattaforma Hugging Face a luglio.
Una portavoce di OpenAI ha definito la revisione interna “approfondita” e “in corso”, assicurando che l’azienda continuerà a informare le organizzazioni coinvolte. “La maggior parte delle attività che abbiamo esaminato finora riguardava compiti di ricerca di routine, come l’accesso a contenuti web pubblici per rispondere a domande”, ha dichiarato. “Alcune attività hanno coinvolto siti web governativi perché i nostri modelli spesso li considerano fonti autorevoli di informazioni pubbliche.”
L’amministratore delegato Sam Altman ha ammesso, in un post sui social, che l’azienda “non è stata rapida come avrebbe voluto” nel divulgare gli incidenti, precisando che la priorità nella comunicazione viene stabilita “in base alla gravità” e che la violazione di Hugging Face resta “l’evento più grave” individuato finora.
FONTE: AGENZIA DI STAMPA DIRE (WWW.DIRE.IT)