Il porno deepfake è un fenomeno di massa da fermare prima che sia troppo tardi
I dati che rimbalzano da uno studio di Sensity sono allarmanti. Oltre 1000 deep fake caricati ogni mese sui più grandi siti internet porno del pianeta, pagine con visualizzazioni da record. Tanto per intenderci stiamo parlando di siti internet che, in termini di visitatori, nella classifica dei siti più frequentati al mondo sono secondi solo a Google, YouTube, Facebook, Twitter e Instagram. In alcuni casi hanno più visite di Wikipedia, Yahoo o Amazon.
Qualche mese fa un porno deep fake nel quale è stato utilizzato il volto dell’attrice brittanica Emma Watson – la Hermione di Harry Potters – è stato visto in una manciata di giorni 23 milioni di volte, 13 milioni solo su un singolo sito web che, per inciso, è il decimo nella classifica dei siti più visitati al mondo.
Per una donna – perché il fenomeno è naturalmente più diffuso al femminile – veder finire il proprio volto appiccicato sul corpo di una attrice porno in un video caricato in uno di questi siti è un’autentica violenza sessuale con conseguenze sulla sua vita, probabilmente, comparabili.
Milioni di persone la vedranno o, meglio, penseranno di riconoscerla in quella scena di sesso, molti, magari la conosceranno e molti si faranno – poco conta se a torto o a ragione – un’idea su di lei che semplicemente non corrisponde alla realtà.
Pochi, ovviamente, le diranno di averla vista su un sito porno e pochissimi, anche quando lei provasse a spiegarle che si tratta di un fotomontaggio per quanto irriconoscibile, le crederanno davvero.
E la sua vita sarà, in molti casi, distrutta, il suo futuro compromesso perché quelle immagini, presumibilmente, continueranno a galleggiare sul web per sempre.
Lo studio di Sensity lascia poco spazio all’ottimismo: la tecnologia per la realizzazione dei porno deep fake – a cominciare da quelli a sfondo sessuale – è sempre più abbordabile, diffusa, a portata di click di chiunque e questo, inesorabilmente, significa che il trend del fenomeno in termini quantitativi e qualitativi è inesorabilmente destinato a crescere.
I gestori dei grandi siti porno con sensibilità e impegno diversi stanno, naturalmente, rendendo disponibili in maniera crescente meccanismi capaci, almeno, di garantire alla vittima di chiedere e ottenere – qualora se ne accorga – la rimozione del video in tempi brevi.
Ma non basta.
(Nella foto: Guido Scorza, Componente del Garante per la protezione dei dati personali)
Per un verso è come provare a svuotare il mare con il famoso secchiello di Sant’Agostino e, per altro verso, prima che la vittima si renda conto di essere vittima il video viene visualizzato milioni e milioni di volte, scaricato, copiato, ripubblicato, diffuso lungo centinaia di migliaia di rivoli digitali.
È il classico caso in cui il toro va preso per le corna o la partita è persa e le vittime si conteranno, drammaticamente, a decine di migliaia. Ed è solo questione di tempo, purtroppo, prima che si debba fare i conti con una vittima adolescente alla quale l’ex fidanzato di turno o un gruppo di compagni di scuola decideranno di fare un “dispetto” di pessimo gusto e dalla conseguenze drammatiche, magari, senza neppure rendersene conto.
Non c’è tempo da perdere e, soprattutto, come talvolta accaduto, non ci si può lasciare fermare dalla natura pruriginosa del fenomeno, della pornografia, del mercato di riferimento.
I gestori dei siti porno sono, ormai, autentiche multinazionali del web che vanno trattate alla stessa stregua di Google, Facebook, Apple, Amazon o Twitter.
E da loro, innanzitutto, va preteso che installino sistemi di riconoscimento automatico dei deep fake – che, ormai, iniziano a diffondersi – almeno per segnalare il carattere sospetto di un video in fase di upload da parte dell’utente, innanzitutto all’utente stesso che potrebbe essere inconsapevole del fake o, magari, comunque, pensarci due volte prima di violentare una donna via web.
E poi, naturalmente, ai moderatori perché verifichino e eventualmente blocchino la pubblicazione del contenuto.
Ovviamente la libertà di manifestazione del pensiero esiste anche su un sito porno ma nel bilanciamento tra il diritto all’identità personale – e verrebbe da dire alla vita – della possibile vittima e quello dell’uploader al caricamento di un video comunque pornografico, non può che far pendere la bilancia dalla parte della potenziale vittima.
Ma serve anche dotarci di leggi che puniscano in maniera esemplare i novelli violentatori sessuali digitali.
In Italia, ad esempio, abbiamo finalmente, una buona legge sul revenge porn ma è difficile, complice il principio di tassatività del diritto penale, applicarla all’ipotesi nella quale a finire online è un fotomontaggio.
Andrebbe aggiornata.
E guai a dimenticarsi della madre di tutte le ricette contro patologie della società digitale come questa: l’educazione, la cultura dei diritti della persona anche nella sua dimensione digitale, il confronto a scuola, in famiglia e in università.
di Guido Scorza (L'Espresso)
