La sentenza del Tribunale Distrettuale di Amsterdam vieta categoricamente a xAI di generare e diffondere immagini in cui le persone appaiono parzialmente o completamente spogliate, se non hanno dato un esplicito permesso. Se vi sembra la base più elementare del buon senso, si tratta proprio della novità del secolo nel mondo legal-tecnologico. E naturalmente, la norma è valida anche per materiale che ritrae minori in situazione di abuso sessuale. Perfino la piattaforma X—sì, quella ex-Twitter di Musk—deve togliere Grok dal suo arsenale di funzioni in Europa, almeno finché non si mettono a norma.
La multa è da capogiro: 100.000 euro al giorno di ritardo nell’adeguamento, fino a un massimo di 10 milioni di euro. Un modo gentile per dire a Elon Musk che qui non si scherza. Tra l’altro, xAI dovrà anche sborsare 2,2 milioni di euro per le spese legali di Offlimits, l’organizzazione olandese che sta facendo da paladino contro gli abusi sessuali online, con un occhio particolare ai più giovani.
Robbert Hoving, direttore di Offlimits, ha commentato con la punta di sarcasmo che “ieri il giudice ha tracciato una linea precisa: la tecnologia non è una licenza per calpestare i diritti umani sul web.” Come se fosse necessario ricordarlo, vero? E ha aggiunto che è “meraviglioso” che l’Europa stia discutendo un divieto per questi famigerati “Nudify tools” ovvero quegli strumenti di intelligenza artificiale che trasformano qualsiasi foto in un incubo da film vietato ai minori. Doppia festa insomma, perché evidentemente in ogni paese europeo si dovrebbe poter godere degli stessi diritti online. In un mondo ideale, certo.
A quanto pare, a xAI non è ancora arrivata nessuna risposta su questa questione, nonostante le richieste di commento. Nel frattempo, il Center for Countering Digital Hate (ma evitiamo ulteriori citazioni di istituzioni per non annoiare) ha scoperto che tra il 29 dicembre e il 9 gennaio 2026 Grok ha generato circa tre milioni di immagini di natura sessualizzata, tra cui oltre 23.000 che sembravano raffigurare bambini. Esplode la fantasia dell’algoritmo, insomma, ma con danni concreti e allarmanti.
Per la cronaca, a gennaio xAI ha cercato di mettere una pezza imponendo divieti sull’uso di Grok per creare immagini sessualizzate di persone reali, operando un blocco anche per gli utenti paganti. Ah, la fiducia: bastano davvero questi mezzi per fermare chi vuole aggirare il sistema—ma il giudice ha liquidato queste misure come insufficienti e facilmente bypassabili. Quindi no, non poteva andare peggio.
Nel panorama legale statunitense, le cose non sono più tranquille. La città di Baltimore è la prima tra le grandi ad intentare causa contro xAI, accusandola di violare le normative sulla protezione dei consumatori e di promuovere Grok e X come piattaforme sicure per gli utenti, mentre tutto l’opposto è vero. Interessante notare che nelle accuse emerge un trend bizzarro soprannominato “mettici in bikini” dove si usa Grok per spogliare (virtualmente, ma non troppo) immagini di persone ignare. Perfino il boss Elon Musk si è prestato a questa farsa, condividendo uno scatto di sé stesso in bikini, naturalmente generato da Grok. Per qualcuno che punta a dominare il futuro, deve essere un modo per farsi notare.
Non pago, il chatbot di Musk ha anche più di un problema legale in Tennessee: tre adolescenti hanno citato in giudizio xAI dopo che Grok ha prodotto contenuti che li ritraevano in pose e situazioni sessualmente esplicite. Il bullying digitale non è mai stato così high-tech.
Nel frattempo, l’Unione Europea ha iniziato un’indagine formale contro xAI in gennaio, usando l’artiglieria pesante del Digital Services Act (DSA), una norma pensata per stroncare la diffusione di materiale sessualmente esplicito di bambini – e non solo – senza consenso. Anche il Regno Unito ha acceso la lampada rossa: Ofcom e l’Information Commissioner’s Office stanno indagando separatamente su X per la distribuzione di immagini sessualizzate non autorizzate. Insomma, l’ennesima mostra di quanto sia difficile incanalare l’esuberanza delle AI in limiti civili adeguati.
Se qualcuno stesse pensando che questa sia solo la versione europea della lotta al mulino a vento, sappia che anche in Asia sudorientale la musica è la stessa. Malysia e Indonesia hanno chiuso le porte a Grok già a gennaio, dopo che X Corp aveva dimostrato di non saper o voler affrontare i pericoli generati da questo strumento.
In conclusione, se Elon Musk voleva un modo per mettere sotto i riflettori la sua nuova creatura digitale, ci è riuscito. Peccato che i riflettori stiano puntando soprattutto su violazioni, cause legali, e la più classica delle incapacità di tenere a bada un’invenzione che, a giudicare da questa serie di guai, sembra crescere più in sregolatezza che in saggezza.
