Immagini sessuali generate dall'AI, polemiche e primi interventi dei governi.
Negli ultimi giorni si sta parlando un po' ovunque di quello che sta succedendo con Grok, l'intelligenza artificiale di Elon Musk integrata direttamente in X, ed è una situazione che sta diventando sempre più pesante. Il sistema è finito nell'occhio del ciclone perché tantissimi utenti hanno iniziato a sfruttare l'AI per generare immagini sessuali esplicite e deepfake non consensuali.
La cosa veramente inquietante è che spesso tutto questo parte da foto normalissime, magari pescate dai profili social di persone ignare, che vengono poi manipolate digitalmente senza alcuna autorizzazione. Certamente non è una novità assoluta nel mondo di Internet. Il problema è che adesso abbiamo a disposizione LLM all'avanguardia che sono in grado di far sembrare qualsiasi immagine o video perfettamente reale e senza manipolazioni. La tecnologia alla base di Grok è sicuramente al passo con i tempi per la generazione e l'editing di contenuti multimediali.
La questione è arrivata dritta sui tavoli dei governi e delle autorità internazionali, che stanno intervenendo con decisione perché considerano questo fenomeno non solo illegale, ma un vero e proprio pericolo per i diritti fondamentali delle persone.
Grok d'altronde è nato con l'idea di essere un'AI a immagine e somiglianza del suo 'titolare', "senza censure", molto più libera e "politicamente scorretta" rispetto a giganti come ChatGPT o Gemini, ma questa totale libertà si è trasformata subito in un problema enorme che X non sembra in grado di gestire pienamente. Il software ha iniziato a rispondere a richieste che le altre AI 'consumer' non soddisferebbero mai, arrivando a "spogliare" virtualmente le persone o a creare situazioni sessualizzate senza che i diretti interessati ne sapessero nulla.
Il problema e l'allarme di governi e istituzioni è dettato dall'integrazione diretta di Grok in una piattaforma social con decine di milioni di iscritti in ogni paese del mondo. La condivisione è decisamente più rapida e immediata che da qualsiasi altra AI.
Questa dinamica ha scatenato reazioni pesantissime a livello mondiale che potrebbero cambiare il futuro del social media. L'Indonesia, per esempio, è stata la prima nazione a passare ai fatti, bloccando temporaneamente l'accesso a Grok per violazione delle norme sulla sicurezza online e la tutela dei diritti digitali. Anche in Europa e nel Regno Unito le acque sono agitate, con le autorità che stanno valutando se X stia rispettando il Digital Services Act e le normative sulla protezione dei minori e non solo. Nel Regno Unito la tensione è altissima e si è addirittura ipotizzato di vietare del tutto la piattaforma se non verranno prese contromisure drastiche contro la diffusione di contenuti osceni e pericolosi.
Dal canto suo, X ha provato a correre ai ripari annunciando che la generazione di immagini con Grok sarà limitata solo agli utenti Premium, ovvero quelli che pagano un abbonamento mensile (al momento, tuttavia, non è così e chiunque può ancora utilizzare la funzionalità Crea immagini nell'area chat). La logica di Musk è che avendo i dati di pagamento dei singoli utenti, questi sarebbero più facili da identificare e quindi meno spinti a commettere illeciti. Ma è una mossa che non convince quasi nessuno e non credo possa essere quella che risolverà il problema e neanche quella che riuscirà a spegnere i riflettori sulla faccenda.
Come sottolineano esperti ed addetti ai lavori, questo non affronta minimamente la questione alla radice, perché la capacità tecnica dell'AI di generare deepfake rimane intatta; cambia soltanto che (forse) bisognerà pagare per poter violare la privacy altrui con le moderne tecnologie. Vedremo se la divisione di xAI aggiornerà il modello di generazione immagini di Grok vietandogli a prescindere di 'spogliare' le persone senza il loro consenso esplicito. L'unica strada percorribile.
