Il modello di intelligenza artificiale Gemini avrebbe avuto accesso improprio a internet indovinando le password delle società e riuscendo così a penetrare nei loro sistemi
Il modello di intelligenza artificiale Gemini di Google ha violato la sicurezza di tre aziende durante alcuni test effettuati lo scorso maggio da Irregular, società già coinvolta in incidenti simili denunciati da OpenAI, Anthropic e Meta.
A rendere noto l’incidente è stato per primo il Wall Street Journal, la notizia è stata ripresa da vari media internazionali e la conferma è arrivata dalla stessa azienda. Nella pratica, il modello – contrariamente a quanto impostato- avrebbe avuto accesso improprio a Internet quando gli è stato assegnato il compito di recuperare informazioni da un’azienda fittizia. Gemini, una volta online, ha indovinato le password per accedere a tre aziende reali, che avevano lo stesso nome di quelle fittizie, e così è riuscita a penetrare nei loro sistemi. Tuttavia, quando gli agenti di intelligenza artificiale si sono resi conto che le aziende erano reali, hanno interrotto gli attacchi.
“Ci siamo assicurati che le tre entità fossero informate e abbiamo collaborato con il nostro partner di formazione sulle modifiche che hanno apportato ai loro processi di test”, ha dichiarato Heather Adkins, vicepresidente dell’ingegneria della sicurezza di Google, come riporta il Financial Times. “In tutti e tre i casi, il modello si è fermato”, ha affermato. “Questi eventi evidenziano l’importanza di addestrare i modelli di intelligenza artificiale più potenti ad agire in modo responsabile“, ha concluso la vicepresidente.
Irregular, dal canto suo, ha dichiarato di essere al lavoro per migliorare le procedure di sicurezza per i test di cybersicurezza dell’intelligenza artificiale.
FONTE: AGENZIA DI STAMPA DIRE (WWW.DIRE.IT)