L’autorità di regolamentazione dei media britannica Ofcom ha stabilito “contatti urgenti” con xAI, la società di intelligenza artificiale di proprietà di Elon Musk, in seguito a segnalazioni secondo cui il suo chatbot Grok può essere utilizzato per generare immagini sessualizzate di bambini e immagini esplicite non consensuali di donne.
L’intervento fa seguito alla diffusa preoccupazione per le capacità di Grok di generare immagini su X, dove gli utenti hanno pubblicato esempi di intelligenza artificiale indotta a “spogliare” digitalmente le donne o a inserirle in scenari sessualizzati senza consenso.
Ofcom ha confermato che sta indagando se l’uso di Grok viola la normativa Legge sulla sicurezza online del Regno Unitoche rende illegale creare o condividere immagini intime o sessualmente esplicite, compresi i “deepfake” generati dall’intelligenza artificiale, senza il consenso di una persona.
Un portavoce di Ofcom ha detto che l’autorità di regolamentazione sta anche esaminando le accuse secondo cui Grok avrebbe prodotto “immagini svestite” di individui, aggiungendo che le società tecnologiche sono legalmente obbligate a prendere misure adeguate per impedire agli utenti del Regno Unito di incontrare contenuti illegali e a rimuovere rapidamente tale materiale una volta segnalati.
X non ha risposto pubblicamente alla richiesta di chiarimenti di Ofcom. Tuttavia, durante il fine settimana, la piattaforma ha avvertito gli utenti di non utilizzare Grok per generare materiale illegale, comprese immagini di abusi sessuali su minori. Musk ha anche pubblicato su X che chiunque spingesse Grok a creare contenuti illegali “soffrirebbe le stesse conseguenze” come se avesse caricato tali contenuti da solo.
Nonostante ciò, la politica di utilizzo accettabile di Grok, che vieta esplicitamente di rappresentare persone reali in modo pornografico, sembra essere stata regolarmente aggirata. Secondo quanto riferito, le immagini di personaggi di alto profilo, tra cui Catherine, principessa del Galles, erano tra quelle manipolate utilizzando lo strumento AI.
La Internet Watch Foundation ha confermato di aver ricevuto segnalazioni da parte del pubblico relative alle immagini generate da Grok. Tuttavia, ha affermato che, finora, non aveva identificato contenuti che superassero la soglia legale per essere classificati come materiale pedopornografico ai sensi della legge britannica.
La questione ha innescato un’analisi anche al di fuori del Regno Unito. La Commissione Europea ha affermato che sta “esaminando seriamente la questione”, mentre le autorità di regolamentazione in Francia, Malesia e India stanno valutando se Grok viola le leggi locali.
Thomas Regnier, portavoce della Commissione europea, ha descritto il contenuto come “spaventoso” e “disgustoso”, affermando che “non c’era posto” per tale materiale in Europa. X è stata multata di 120 milioni di euro (104 milioni di sterline) dalle autorità di regolamentazione dell’UE a dicembre per aver violato i suoi obblighi ai sensi della legge sui servizi digitali.
Le critiche si sono intensificate da parte dei politici britannici. Dame Chi Onwurah, presidente del Comitato per la scienza, l’innovazione e la tecnologia, ha affermato che le accuse sono “profondamente inquietanti” e ha sostenuto che le misure di salvaguardia esistenti non riescono a proteggere il pubblico. Ha descritto l’Online Safety Act come “tristemente inadeguato” e ha chiesto maggiori poteri di controllo contro le piattaforme di social media.
La controversia ha anche evidenziato l’impatto sull’uomo dell’uso improprio dell’IA. La giornalista Samantha Smith ha dichiarato alla BBC che vedere immagini di se stessa in bikini generate dall’intelligenza artificiale era “tanto violento come se qualcuno avesse pubblicato un’immagine reale e esplicita”.
“Mi somigliava. Mi sentivo come me. Ed era disumanizzante”, ha detto.
Il Ministero degli Interni ha confermato che sta procedendo alla legislazione per mettere al bando del tutto gli strumenti di “nudificazione”, con la proposta di un nuovo reato penale che vedrebbe i fornitori di tale tecnologia affrontare pene detentive e multe considerevoli.
Mentre le autorità di regolamentazione si muovono per rafforzare i controlli, l’episodio di Grok è diventato un punto critico nel più ampio dibattito sulla responsabilità dell’IA, sulla responsabilità della piattaforma e sui limiti della libera espressione nell’era della tecnologia generativa.
Jamie Young
Jamie è Senior Reporter presso Business Matters e vanta oltre un decennio di esperienza nel reporting aziendale delle PMI del Regno Unito. Jamie ha conseguito una laurea in Economia aziendale e partecipa regolarmente a conferenze e workshop di settore. Quando non racconta gli ultimi sviluppi aziendali, Jamie si dedica con passione a fare da mentore a giornalisti e imprenditori emergenti per ispirare la prossima generazione di leader aziendali.