Colpita la piattaforma Hugging Face
OpenAI ha dichiarato che un loro modello di intelligenza artificiale è “evaso” da un ambiente di test, ha ottenuto accesso a internet, ha rubato le credenziali di accesso e si è introdotto da solo nella startup Hugging Face.
Si tratta di uno dei primi esempi pubblici di un attacco informatico da parte di un sistema AI che agisce al di fuori del controllo umano. L’azienda di San Francisco ha definito l’accaduto un “incidente informatico senza precedenti” e ha annunciato che condurrà un’indagine congiunta con la piattaforma di condivisione di codice e modelli di IA Hugging Face, vittima del cyber attacco.
“Mentre operavano nel nostro ambiente di test isolato, i nostri modelli hanno impiegato una notevole quantità di potenza di calcolo per trovare un modo per ottenere l’accesso a Internet, nel tentativo di risolvere il problema di valutazione”, si legge in un post sul blog di OpenAI.
Dopo essersi connessi a Internet, i modelli hanno deciso di prendere di mira la piattaforma Hugging Face, uno dei più grandi archivi online di modelli di intelligenza artificiale, dataset e altre risorse utili. Alla ricerca di “informazioni segrete” che potessero aiutarli ad aggirare il test, il sistema OpenAI ha “concatenato molteplici vettori di attacco, incluso l’utilizzo di credenziali rubate”.
