Donne denudate con i deepfake: aperta indagine su X e Grok di Elon Musk. L’autorità di controllo dei media del Regno Unito, Ofcom, ha avviato un’indagine formale
L’autorità di controllo dei media del Regno Unito, Ofcom, ha avviato un’indagine formale su X di Elon Musk per l’utilizzo dello strumento di intelligenza artificiale Grok per manipolare immagini di donne e rimuovere i loro vestiti realizzando dei cosiddetti “deepfake”, a malapena distinguibili da foto reali. Lo riferisce il quotidiano The Guardian.
The Office of Communications o Ofcom è intervenuta in seguito alle proteste pubbliche e politiche per le numerose immagini a sfondo sessuale apparse sulla piattaforma, creata da Grok di Musk e integrata con X.
L’autorità di regolamentazione dei media britannica sta indagando su X ai sensi dell’Online Safety Act, che prevede una serie di possibili sanzioni per le violazioni, tra cui il divieto di app e siti web nel Regno Unito per gli abusi più gravi.
“Abbiamo deciso di avviare un’indagine formale per stabilire se X non abbia rispettato i suoi obblighi legali ai sensi dell’Online Safety Act”, ha dichiarato Ofcom.
“Ci sono state segnalazioni molto preoccupanti sull’account del chatbot Grok AI su X utilizzato per creare e condividere immagini di persone nude, il che potrebbe costituire abuso di immagini intime o pornografia, e immagini sessualizzate di bambini che potrebbero costituire materiale di abuso sessuale su minori (CSAM- Child sexual abuse material)“, scrive l’autorità in una nota.
“Le segnalazioni di Grok utilizzato per creare e condividere immagini intime illegali e non consensuali e materiale pedopornografico su X sono state profondamente preoccupanti- dice un portavoce di Ofcom- Le piattaforme devono proteggere le persone nel Regno Unito da contenuti illegali nel Regno Unito e non esiteremo a indagare laddove sospettiamo che le aziende stiano venendo meno ai loro doveri, soprattutto quando esiste il rischio di danni ai minori. Porteremo avanti questa indagine con la massima priorità, assicurandoci di seguire il giusto processo. In qualità di agenzia indipendente per l’applicazione della sicurezza online nel Regno Unito, è importante garantire che le nostre indagini siano legalmente solide e condotte in modo imparziale”.
Ofcom ha deciso di avviare un’indagine formale per stabilire se X non abbia rispettato i propri obblighi legali ai sensi dell’Online Safety Act, “in particolare- spiega-: valutare il rischio che le persone nel Regno Unito vedano contenuti illegali nel Regno Unito e effettuare una valutazione del rischio aggiornata prima di apportare modifiche significative al proprio servizio; adottare misure appropriate per impedire alle persone nel Regno Unito di vedere contenuti illegali ‘prioritari’, tra cui immagini intime non consensuali e materiale pedopornografico; rimuovere rapidamente i contenuti illegali non appena ne vengano a conoscenza; prestare attenzione alla protezione degli utenti da violazioni delle leggi sulla privacy; valutare il rischio che il proprio servizio rappresenta per i minori del Regno Unito e effettuare una valutazione del rischio aggiornata prima di apportare modifiche significative al proprio servizio; e utilizzare un sistema di garanzia dell’età altamente efficace per proteggere i minori del Regno Unito dalla visione di materiale pornografico”.
FONTE: AGENZIA DI STAMPA DIRE (WWW.DIRE.IT)