Uno studio getta ombre sull’algoritmo di Uber: «prezzi più alti ai viaggiatori di colore»
Un recente studio della George Washington University, che nell’arco di circa un anno ha analizzato oltre 100 milioni di viaggi a Chicago, getta nuove ombre su Uber e Lyft sostenendo che gli algoritmi utilizzati dalle app delle note società di trasporto penalizzerebbero i passeggeri di colore applicando loro prezzi più alti.
Dai primi risultati dello studio accademico condotto negli Usa, emerge infatti che le compagnie di trasporto passeggeri addebiterebbero tariffe maggiorate per le corse nella città dell’Illinois se la destinazione o il punto di raccolta ha una maggiore concentrazione di residenti non bianchi, o dove vi sono meno persone con un elevato livello di istruzione.
A differenza dei servizi di taxi tradizionali, le tariffe per i servizi a chiamata di Uber e Lyft sono variabili in base a tecniche di dynamic pricing che attraverso decisioni automatizzate assunte da algoritmi basati su meccanismi di intelligenza artificiale possono far oscillare anche in modo significativo i prezzi a seconda della rilevazione di determinati fattori in costante variazione che vengono combinati tra loro ed elaborati, come la quantità di richieste contemporanee in una stessa zona ed il numero di autisti disponibili, oppure il traffico stimato in relazione alla distanza e al tempo necessario per soddisfare la richiesta, ma non dovrebbero certo aumentare i prezzi in base al colore della pelle, dell’etnia, o del livello di istruzione, anche se Uber nella propria informativa sulla privacy non nega che in certi paesi può ricevere dati demografici sugli utenti da terze parti ed utilizzarli per personalizzare le comunicazioni di marketing, come annunci pubblicitari mirati che possono variare in base alla posizione dell’utente rilevata in base alla geolocalizzazione tramite Gps, nonché alle preferenze e alle impostazioni dell’utente.
Questo non significa espressamente che ai passeggeri residenti in zone della città ad alta densità di neri vengano applicati prezzi più alti, ma non è la prima volta che compagnie come Uber e Lyft finiscono sotto i riflettori per problemi di discriminazione razziale nei confronti dei clienti: infatti già nel 2016 uno studio aveva rilevato che gli utenti maschi con nomi che suonavano come afroamericani avevano più del doppio delle probabilità (11,2% contro il 4,5%) che i conducenti annullassero le loro corse rispetto alle chiamate ricevute da passeggeri bianchi.
In attesa di vedere i risultati finali della ricerca, un portavoce di Uber ha nel frattempo dichiarato che la società non consente la discriminazione attraverso algoritmi o utenti, e “pur apprezzando gli studi che ricercano l’impatto dei prezzi dinamici”, ha mosso alcune perplessità su quello della George Washington University, sottolineando che “è importante non equiparare la correlazione per il nesso causale”, e che nella fattispecie tale studio potrebbe aver trascurato numerosi fattori rilevanti nella sua analisi. Se d’altra parte, le tesi sostenute dai ricercatori universitari si rivelassero azzeccate, si tratterebbe di un grave abuso dell’utilizzo di dati personali che vedrebbe l’intelligenza artificiale al servizio del razzismo e delle pratiche commerciali scorrette.
di Nicola Bernardi, presidente di Federprivacy (Nòva Il Sole 24 Ore)
