È boom del riconoscimento facciale, ma senza rispetto della privacy il baratro è dietro l’angolo
Le tecnologie che usano il riconoscimento facciale sono sempre più diffuse, e se in certi casi si rivelano utili, spesso finiscono invece per diventare un umiliante strumento di discriminazione. Aumentano infatti le vicende di cronaca che raccontano di sistemi “intelligenti” che utilizzano i dati biometrici del volto umano per individuare determinate persone e colpirle con provvedimenti punitivi come negare loro l’accesso a supermercati per fare acquisti, oppure identificarle come ospiti sgraditi cacciandole da eventi pubblici, e in certi casi privarle di loro diritti come quello di manifestare pacificamente, arrivando talvolta perfino ad arrestarle ingiustamente.
Ad esempio, negli Stati Uniti la Madison Square Garden Entertainment ha adottato una policy che impedisce a chiunque sia coinvolto in cause contro l’azienda l’ingresso al Madison Square Garden e agli altri locali della società, ovvero la Radio City Music Hall, il Beacon Theatre e il Chicago Theatre. Per cacciare gli ospiti indesiderati, la società statunitense usa il riconoscimento facciale, e chiunque deve entrare è soggetto a scansione del volto, una pratica che ora viene usata anche per accompagnare alla porta pure gli avvocati ritenuti “ostili” perché assistono le parti avverse nelle cause legali.
In Russia un manifestante pacifico, era stato invece identificato dalle autorità tramite la tecnologia di riconoscimento facciale nella metropolitana di Mosca. Dopo la sua discutibile condanna, il caso era finito alla Corte europea dei diritti dell’uomo, che di recente si è pronunciata ritenendo violato sia il diritto alla privacy che quello alla libertà di espressione. Anche se le sentenze della Corte europea sono legalmente vincolanti per 46 Paesi membri, peccato però che a seguito dell’invasione dell’Ucraina nel marzo 2022 la Russia sia stata esclusa dalla Convenzione europea dei diritti dell’uomo, sottraendosi quindi al dovere di rispettarne i precetti.
Nonostante in Europa i diritti sulla privacy siano maggiormente tutelati grazie al GDPR, non mancano però i casi neanche nei paesi dell’UE, tra cui quello dei supermercati Mercadona, che si erano dotati di un sistema di videosorveglianza che analizzava i dati biometrici del volto dei clienti che entravano per fare la spesa per scoprire se essi avevano pendenze con la giustizia, in tal caso bloccandone l’ingresso e facendo scattare un allarme per richiedere l’intervento del personale della sicurezza. Quando è venuta a conoscenza dei fatti, fortunatamente l’autorità per la privacy è intervenuta prontamente bloccando tale condotta illecita e sanzionando le violazioni commesse dalla società della grande distribuzione.
(Nella foto: Nicola Bernardi, presidente di Federprivacy)
Mentre cercano di regolamentare l’Intelligenza Artificiale, le istituzioni dell’Unione Europea stanno andando con i piedi di piombo per evitare un uso incontrollato del riconoscimento facciale, ma d’altra parte si osserva un diffuso entusiasmo nell’adottare con superficialità questa tecnologia moderna anche in situazioni in cui sarebbe del tutto superflua, come se si trattasse di un innocuo giocattolo. Ne sono un esempio i numerosi campeggi dei Paesi Bassi che hanno installato tornelli dotati di riconoscimento facciale, così che, usando il proprio smartphone, i clienti possono scattare in anticipo foto del loro volto e anche di quello dei loro bambini minorenni per registrarle sul server della struttura ricettiva, in modo che al loro arrivo possono poi evitare di fare la coda.
Il boom del riconoscimento facciale si consuma mentre la maggioranza delle persone (e talvolta purtroppo anche personalità delle istituzioni) sembra non preoccuparsi troppo del fatto che i dati biometrici (tra i quali vi rientrano l’impronta digitale, l’iride, e appunto il volto) comportino delle criticità che richiedono particolare prudenza, perché in caso di furto non possono essere modificati come si farebbe facilmente con una password, e pare che importi poco o niente se i software utilizzati presentino attualmente dei significativi limiti tecnici nei processi decisionali automatizzati con elevati margini di errore.
Secondo un’analisi svolta qualche tempo fa negli Stati Uniti, la tecnologia utilizzata per il riconoscimento facciale induce infatti a un’identificazione errata di donne non bianche in almeno un terzo dei casi, mentre i maschi neri hanno una probabilità di essere arrestati cinque volte superiore a quella dei bianchi.
Spesso da tali errori scaturiscono conseguenze sessiste e razziste, con l’adozione di provvedimenti assurdi nei confronti degli sventurati, come lo è stato Randall Reid, un ventottenne nero arrestato ingiustamente per un reato che non aveva commesso in un luogo in cui non era mai stato. Per la sua condanna, la polizia locale si era affidata esclusivamente ai risultati dell’algoritmo che lo avevano identificato dal volto, senza nessun’altra indagine o prova, tenendolo in carcere per quasi una settimana, fino a quando le autorità hanno finalmente capito di aver preso un granchio.
Ovviamente, un’innovazione tecnologica non è da bocciare solo perché potrebbe comportare degli effetti collaterali, ma occorre ponderare bene quando effettivamente conviene andare cauti piuttosto che buttarsi a capofitto in quella che può sembrare una soluzione, ma in realtà può potenzialmente produrre danni superiori ai vantaggi attesi. Perciò, il riconoscimento facciale richiede di agire adesso “cum grano salis”, perché il baratro potrebbe essere dietro l’angolo, e dopo potremmo solo leccarci le ferite.
di Nicola Bernardi, presidente di Federprivacy (Nòva Il Sole 24 Ore)
