Ue e Uk attaccano X per deepfake sessuali generati da Grok

La settimana scorsa il governo laburista aveva lanciato un duro monito a Musk, chiedendo ai vertici del social network di agire con la massima urgenza per fermare l’uso di Grok nella creazione di “ripugnanti” immagini deepfake.

Anche l’Unione europea si era mossa in questo senso, condannando l’uso del chatbot e invocando l’intervento di X.

Non era stata definita come soddisfacente dalla Commissione europea la decisione di limitare ai soli utenti abbonati la modifica delle immagini. È rimasta infatti valida la richiesta di porre fine del tutto alla diffusione dei deepfake.

L’Unione europea non delegherà la protezione dei minori e temi riguardo al consenso a Silicon Valley. Lo afferma la portavoce-capo della Commissione europea Paula Pinho nel corso del briefing giornaliero con la stampa, richiamando le parole della presidente Ursula von der Leyen in merito alla funzione di Grok, il chatbot di intelligenza artificiale sviluppato da xAi e offerto sulla piattaforma X, che permette agli utenti di generare deepfake a sfondo sessuale, anche nel caso di minori, senza il permesso dei soggetti in questione. “È un comportamento impensabile e il danno causato da questi deepfake è reale.

Non delegheremo la protezione dei minori e il consenso a Silicon Valley. Spetta all’azienda affrontare questa situazione agghiacciante, altrimenti interverremo. Non specificheremo ora in che forma, ma è un richiamo concreto”, afferma Pinho.

L’articolo 70 del Digital Services Act europeo specifica che si possono “adottare misure proporzionate” a tutela degli utenti in circostanze eccezionali e con rischio di gravi danni per essi, aggiunge un altro portavoce, Thomas Regnier, sottolineando che la legge Ue sui servizi digitali “si è già dimostrata efficace: abbiamo ricevuto risposte da X e il proprietario ha annunciato misure che stiamo valutando. Elon Musk è libero di gestire la sua azienda come vuole nell’Ue, ma il rispetto della nostra legislazione è obbligatorio”, sottolinea.

Rispondendo a un’altra domanda in merito alle perplessità, spesso originate negli Usa, sull’uso del Dsa come strumento di censura, Regnier aggiunge che “tracciare un parallelo tra la libertà di parola e uno strumento di intelligenza artificiale che genera materiale pedopornografico è un’assurdità pericolosa, specialmente se proviene dal proprietario di un’azienda tecnologica.

Francamente, è incredibile doverne discutere nel 2026. Spesso veniamo accusati di eccesso di regolamentazione, ma questo tipo di contenuti è proprio il motivo per cui abbiamo delle leggi. Siamo stati chiari: o X risolve il problema, o prenderemo i provvedimenti previsti dalla legislazione”, conclude.

Dopo l’Indonesia, anche la Malesia l’11 gennaio ha deciso di sospendere l’accesso a Grok, l’assistente di intelligenza artificiale del social network X, che genera contenuti pornografici falsi a partire da foto reali. Nel dettaglio, la Commissione malese per le comunicazioni e i multimedia (Mcmc) ha dichiarato in un comunicato di “aver ordinato una restrizione temporanea dell’accesso all’intelligenza artificiale Grok per gli utenti in Malesia”, con effetto immediato.

Nel comunicato, l’autorità ha fatto riferimento a “contenuti che coinvolgono donne e minori, nonostante un contratto normativo preventivo e avvisi formali” inviati alla società X di Elon Musk e alla start-up xAI che ha sviluppato Grok. L’autorità di regolamentazione malese ha dichiarato di ritenere insufficienti le misure di protezione di X, aggiungendo che l’accesso potrà essere ripristinato solo dopo la verifica delle modifiche richieste.

Secondo la Mcmc, X “non è stata in grado di rispondere ai rischi inerenti alla progettazione e al funzionamento dello strumento di Ai”, basandosi “principalmente su meccanismi di segnalazione avviati dagli utenti”.

La decisione arriva mentre gli Stati di tutto il mondo stanno chiedendo provvedimenti contro il sistema: dall’India, dove oggi sono stati cancellati centinaia di account all’Ue, dove l’accesso ai servizi di Grok è stato riservato ai soli abbonati.