Urgente verificare la legittimità dell’uso dei dati privati degli utenti da parte di Meta per addestrare l’Intelligenza Artificiale
Molti di voi avranno ricevuto la notifica con cui Meta annuncia l’avvio di un nuovo programma di sviluppo della propria intelligenza artificiale. In breve, Meta utilizzerà più o meno tutte le informazioni depositate negli anni dai propri utenti per addestrare i propri algoritmi. Immaginate: chat personali, espressioni di cui non andate fieri o che non riconoscete più come vostre, commenti più o meno ridicoli, like a foto o post di dubbio gusto. Tutto questo sarà utilizzato per addestrare l’IA, la quale, a sua volta, potrà “comunicare” con terze parti.
(Nella foto: Stefano Rossetti è avvocato presso Noyb – European Center for Digital Rights)
Cosa tutto ciò voglia dire, rimane, francamente, un mistero. In teoria ci si può opporre, ma solo in teoria. Per esplicita scelta di Meta, esercitare questo diritto è infatti piuttosto difficoltoso (guardate al riguardo l’ottimo articolo di Annalisa Godi). In ogni caso, anche dove l’utente ci riesca, non c’è davvero modo di verificare se la richiesta sia accolta in pratica. L’autorità irlandese, territorialmente competente a indagare su Meta, non è infatti conosciuta per la solerzia con cui esercita le proprie funzioni di vigilanza.
Per queste ragioni, noyb ha presentato una serie di reclami presso differenti autorità di protezione dei dati, sottolineando la necessità di un’azione concertata e urgente per verificare la legittimità di tali operazioni.
Alla base di tutto c’è una voluta, intenzionale ambiguità sul trattamento dei dati. Quando tutto è iniziato, un paio di decenni or sono, nessuno poteva immaginare che i dati personali del proprio account potessero essere usati per qualunque finalità.
E invece, dapprima si è trattato di marketing diretto. Poi, targeting politico (qualcuno ricorda una certa Cambridge Analytica?). E ora l’intelligenza artificiale, con i possibili rischi che questo comporta, specie se l’addestramento dell’algoritmo è basato su questo genere di informazioni (pensate alle chat private).
Un caso pratico. Alcuni giorni fa, nell’intento di migliorare il mio inglese, ho chiesto a un assistente Ia di aiutarmi a rendere la mia espressione più naturale. Il bot mi ha fatto una domanda, «Cosa ti piace?», e io ho pensato, «Leggere». Ho risposto: «I am passionate about books, I love having them around, reading them, learning from great minds, women and men». Correzione dell’IA: «I am passionate about books. I love surrounding myself with them, delving into their pages, and absorbing the wisdom of great minds, both men and women». Nell’intento di fornire una versione più rifinita, l’IA ha invertito in senso delle due parole evidenziate, ponendo “men” prima di “women”, come è sempre stato. Lo ha fatto perché l’algoritmo è stato addestrato su un set di dati che ha statisticamente fornito quella sequenza. In altri termini, ha ribadito una discriminazione di genere. E questo tipo di dinamica può ripetersi in molti altri settori.
Per esempio, riportando il pensiero a Cambridge Analytica, c’è il chiaro rischio che l’Ia possa influenzare il dibattito democratico, proponendo articoli che confermano un pregiudizio anziché fornire ulteriori elementi, essenziali per formare un cervello pensante e votante (vogliamo essere ottimisti). Tutto questo può alimentare rischi sistemici quali hate speech, discriminazioni di ogni genere, limitazione della libertà di espressione online. Per esempio, se un post non rispecchia una posizione accettata, e per questo riceve commenti negativi, l’IA lo potrà bollare come “illegittimo” e rimuovere il contenuto e il suo autore dalla piattaforma. (Non è fantascienza. Tutto ciò accade ed è oggetto di un nuovo regolamento europeo, il Digital Services Act.) Contestare la decisione algoritmica è in teoria possibile, come anche ottenere un intervento di revisione umano. Tuttavia, per farlo efficacemente, occorrerebbe conoscere la logica decisionale dell’AI. Le piattaforme, tuttavia, non sono particolarmente favorevoli a fornire queste spiegazioni perché espongono la loro proprietà industriale a rischi, e perché la moderazione umana costa (a meno di non esternalizzare la funzione in paesi in via di sviluppo, senza protezioni giuslavoristiche, e anche questa l’abbiamo già sentita). E qui viene in rilievo il ruolo delle autorità di vigilanza.
Il sistema di cooperazione previsto dal regolamento europeo sulla privacy prevede che la competenza a vigilare su questo tipo di trattamenti spetti alle autorità di protezione dei dati dei paesi dove questi colossi hanno il loro stabilimento principale. Essenzialmente, Irlanda e Lussemburgo. C’è solo un “piccolo” problema. Per una qualche imperscrutabile ragione – diciamo “imperscrutabile” per non offendere la sensibilità di alcuno – questi paesi non hanno regole procedurali chiare sulla gestione dei reclami, con la conseguenza che, nella stragrande maggioranza dei casi, non si effettua alcuna indagine e raramente si ottiene un qualche tipo di intervento. In altri termini, il sistema non funziona proprio per i trattamenti di dati personali rispetto ai quali dovrebbe funzionare meglio.
Omettendo di regolare in modo puntuale l’attività delle proprie autorità di vigilanza, questi Paesi permettono, di fatto, la creazione di veri e propri paradisi della privacy. Si tratta di una violazione della disciplina europea. La Commissione Europea potrebbe intervenire con una procedura di infrazione. Fino ad ora, però, non ha fatto granché. Magari, le negoziazioni per la nuova Commissione potranno tenere in considerazione questo stato di cose. Il tempo di agire in modo costruttivo è davvero arrivato. Anzi, siamo già molto in ritardo.
di Stefano Rossetti (Fonte: Domani)
