Indonesia indaga su uso di Grok per produrre e diffondere contenuti porno

Il ministero delle Comunicazioni e del digitale dell'Indonesia sta indagando sul presunto uso improprio della funzionalità di intelligenza artificiale Grok sulla piattaforma X per produrre e distribuire contenuti pornografici. Lo rende noto il ministero in un comunicato. Come spiega il direttore generale della Supervisione dello spazio digitale, Alexander Sabar, le indagini iniziali indicano che Grok non dispone di normative esplicite e adeguate a impedire la produzione e la distribuzione di contenuti pornografici basati su fotografie reali di cittadini indonesiani e che questa situazione potrebbe violare il diritto alla privacy e il diritto all'immagine, in particolare quando la foto di una persona viene manipolata o diffusa senza il suo consenso.

Il ministero, prosegue la nota, sta attualmente coordinando le proprie attività con gli operatori di sistemi elettronici per garantire l'adozione di efficaci meccanismi di protezione. Queste misure includono il rafforzamento dei sistemi di moderazione dei contenuti, la prevenzione della creazione di deepfake immorali e l'implementazione di procedure per la gestione rapida delle segnalazioni di violazioni della privacy e dell'immagine. In caso di inosservanza o comportamento non collaborativo, il ministero può imporre sanzioni amministrative e penali, tra cui la sospensione dell'accesso ai servizi di intelligenza artificiale di Grok.