Il ministero delle Comunicazioni e del digitale dell’Indonesia ha avviato un’inchiesta sul presunto impiego improprio della funzionalità di intelligenza artificiale Grok, integrata nella piattaforma X, per la creazione e la diffusione di contenuti pornografici. L’indagine, annunciata ufficialmente in un comunicato stampa, prende le mosse dall’allarme lanciato dal direttore generale della Supervisione dello spazio digitale, Alexander Sabar.
Secondo Sabar, le verifiche preliminari hanno evidenziato l’assenza di norme chiare e adeguate in grado di impedire che Grok utilizzi fotografie autentiche di cittadini indonesiani per generare materiale a sfondo sessuale. “Questa situazione potrebbe violare il diritto alla privacy e il diritto all’immagine, in particolare quando la foto di una persona viene manipolata o diffusa senza il suo consenso”, ha dichiarato il direttore.
Per far fronte al problema, il ministero sta collaborando con gli operatori di sistemi elettronici al fine di introdurre meccanismi di tutela efficaci. Tra le azioni previste vi sono il potenziamento dei sistemi di moderazione dei contenuti, misure specifiche per prevenire la creazione di deepfake immorali e l’istituzione di procedure rapide per gestire le segnalazioni di violazioni della privacy e dell’immagine.
In caso di inadempienze o di mancata collaborazione da parte dei fornitori di servizi, l’autorità di settore potrà ricorrere a sanzioni amministrative e penali. Tra le misure più severe figura la possibilità di sospendere l’accesso ai servizi di intelligenza artificiale di Grok, fino al pieno adeguamento alle nuove disposizioni di protezione.