La posizione di garanti europei sui modelli di intelligenza artificiale: quali sono le conseguenze del trattamento illecito dei dati personali?
L'Opinione 28/2024 del Comitato Europeo per la Protezione dei Dati (European Data Protection Board) rappresenta un documento estremamente utile per affrontare le complesse questioni legate alla protezione dei dati personali nel contesto dello sviluppo e dell’implementazione dei modelli di intelligenza artificiale (IA).
La sua analisi dettagliata evidenzia aspetti fondamentali relativi alla definizione di anonimato, all’uso del legittimo interesse come base giuridica per il trattamento dei dati e alle implicazioni dell’uso illecito di dati personali durante lo sviluppo di modelli di IA.
L'anonimizzazione dei modelli di IA è un tema centrale affrontato nell'Opinione 28/2024 del Comitato. Essa costituisce un elemento critico per determinare se un modello di IA, addestrato utilizzando dati personali, possa essere considerato al di fuori dell'ambito di applicazione del GDPR. Questo aspetto assume particolare rilevanza, poiché se un modello viene riconosciuto come anonimo, il trattamento dei dati non è più soggetto alle rigorose disposizioni del regolamento. Tuttavia, l'EDPB evidenzia la complessità di raggiungere un'effettiva anonimizzazione, date le caratteristiche intrinseche dei modelli di IA e le tecnologie disponibili.
Il cuore della questione risiede nella possibilità di estrarre o inferire dati personali dai modelli di IA. Durante il processo di addestramento, i modelli incorporano dati personali attraverso parametri che rappresentano relazioni statistiche tra le informazioni fornite.
Anche se i dati possono essere trasformati in rappresentazioni matematiche astratte, queste ultime possono ancora mantenere tracce delle informazioni originali, rendendo possibile, in alcuni casi, l'estrazione di dati personali attraverso tecniche avanzate come gli attacchi di inversione o di inferenza delle appartenenze.
L’EDPB sottolinea che l'anonimizzazione non può essere presunta ma deve essere dimostrata attraverso una valutazione rigorosa, basata su criteri ben definiti. Due aspetti chiave emergono da questa analisi. In primo luogo, la probabilità di estrazione diretta dei dati personali dal modello deve essere insignificante. Ciò implica che i dati personali utilizzati per l'addestramento non devono essere direttamente accessibili dal modello stesso, nemmeno in forma probabilistica. In secondo luogo, non deve esistere la possibilità di ottenere dati personali attraverso interazioni con il modello, sia che queste avvengano intenzionalmente o accidentalmente.
La documentazione e le misure tecniche adottate giocano un ruolo fondamentale nella dimostrazione dell'anonimizzazione. L'EDPB richiede che i titolari del trattamento mantengano una documentazione dettagliata che comprenda analisi del rischio, descrizioni delle tecniche utilizzate per ridurre l’identificabilità dei dati, e risultati di test effettuati per verificare la resistenza del modello a potenziali attacchi. Questa documentazione deve essere sufficientemente robusta da permettere alle autorità di controllo di verificare l'efficacia delle misure adottate e garantire che l'anonimizzazione sia stata realizzata in conformità ai requisiti del GDPR.
L'EDPB sottolinea, inoltre, che il legittimo interesse non ha una posizione gerarchicamente superiore o inferiore rispetto ad altre basi giuridiche previste dall'articolo 6 del GDPR. Tuttavia, la sua applicazione richiede un'analisi particolarmente rigorosa per garantire che sia rispettato un equilibrio tra l'interesse del titolare o di terzi e i diritti e le libertà fondamentali degli interessati. Questo equilibrio è particolarmente delicato nel contesto dei modelli di IA, poiché queste tecnologie possono comportare trattamenti complessi, intrusivi e potenzialmente discriminatori.
Il bilanciamento richiesto dall'uso del legittimo interesse si sviluppa in tre fasi interconnesse.
La prima consiste nell'identificazione dell'interesse perseguito dal titolare del trattamento o da un terzo. Questo interesse deve essere concreto, attuale e chiaramente definito, evitando qualsiasi vaghezza o generalizzazione. Nel contesto dell'IA, gli interessi possono includere l'innovazione tecnologica, il miglioramento dell'efficienza operativa o la prevenzione di frodi. Tuttavia, l'EDPB evidenzia che questi interessi devono essere valutati in relazione al contesto specifico e dimostrati attraverso documentazione dettagliata.
La seconda fase riguarda la necessità del trattamento. Qui, il titolare deve dimostrare che il trattamento dei dati personali è essenziale per perseguire l'interesse identificato e che non esistono alternative meno invasive che possano raggiungere lo stesso obiettivo. Nel caso dei modelli di IA, questa analisi è particolarmente complessa, poiché spesso i dati personali sono utilizzati per migliorare l'accuratezza o ridurre i bias del modello, ma il loro utilizzo deve essere giustificato da un'esigenza reale e comprovata.
La terza fase, forse la più delicata, è il bilanciamento tra l'interesse del titolare e i diritti e le libertà fondamentali degli interessati. L'EDPB sottolinea che questa valutazione deve essere contestualizzata, tenendo conto della natura dei dati trattati, delle ragionevoli aspettative degli interessati e delle misure adottate per mitigare i rischi. Ad esempio, l'uso di dati personali provenienti da fonti pubblicamente accessibili richiede un'attenzione particolare per verificare se gli interessati si aspettassero che tali dati fossero utilizzati per scopi specifici, come l'addestramento di un modello di IA. Inoltre, l'EDPB insiste sulla necessità di una trasparenza assoluta da parte del titolare, affinché gli interessati siano consapevoli dell'utilizzo dei propri dati e possano esercitare i propri diritti, incluso il diritto di opposizione.
Criticamente, l'EDPB affronta anche il ruolo delle misure di mitigazione nel processo di bilanciamento. Queste misure possono includere la minimizzazione dei dati, la pseudonimizzazione o altre tecniche per ridurre il rischio di interferenza con i diritti fondamentali. Tuttavia, l'EDPB avverte che tali misure devono essere personalizzate e commisurate ai rischi specifici del trattamento e non possono sostituire il rispetto dei principi fondamentali del GDPR.
Le conseguenze del trattamento illecito dei dati personali nell'ambito dello sviluppo di modelli di IA sono affrontate in modo approfondito nell'Opinione 28/2024. Questo tema è di fondamentale importanza, poiché stabilisce i limiti entro cui un modello di IA, sviluppato in violazione delle normative sulla protezione dei dati, può essere utilizzato o continuare a operare. L'analisi dell'EDPB mette in luce l'importanza di salvaguardare i diritti fondamentali degli interessati e al tempo stesso di garantire un approccio pragmatico che tenga conto delle specificità tecnologiche.
Secondo l'EDPB, le conseguenze di un trattamento illecito dipendono in gran parte dalle circostanze del caso concreto, in particolare dalla natura e dal grado di coinvolgimento dei dati personali nel funzionamento del modello. Vengono identificate tre situazioni principali, ciascuna con implicazioni legali differenti.
Nel primo scenario, i dati personali utilizzati illecitamente durante lo sviluppo del modello sono ancora presenti nel modello stesso e vengono trattati dal medesimo titolare durante la fase di implementazione. In questo caso, l'EDPB sottolinea che le autorità di controllo devono valutare se il trattamento originario e quello successivo rappresentino attività distinte con finalità separate. Se i dati personali rimangono integralmente o parzialmente nel modello, il trattamento successivo può essere considerato viziato dall’illiceità originaria, rendendo necessario l’intervento delle autorità per imporre misure correttive, come la rimozione dei dati o la limitazione dell’utilizzo del modello.
Il secondo scenario prevede che i dati personali rimangano nel modello, ma siano trattati da un diverso titolare durante la fase di implementazione. In questa situazione, il nuovo titolare deve dimostrare di aver condotto una valutazione approfondita per garantire la conformità al GDPR. Tale valutazione deve includere un'analisi della provenienza dei dati, del rischio associato al loro utilizzo e dell’eventuale rilevazione di violazioni durante la fase di sviluppo. L'EDPB evidenzia che la mancata esecuzione di questa analisi può esporre il nuovo titolare a responsabilità legali, anche se non direttamente coinvolto nel trattamento illecito originario.
Il terzo scenario, invece, riguarda i casi in cui il titolare che ha sviluppato il modello anonimizza i dati personali prima della fase di implementazione. Se viene dimostrato che il modello non processa più dati personali, l'EDPB ritiene che il GDPR non si applichi alle operazioni successive. Tuttavia, eventuali trattamenti futuri che coinvolgano dati personali raccolti durante l'implementazione dovranno essere valutati separatamente e conformarsi al regolamento. In questo caso, l’illiceità del trattamento originario non pregiudica necessariamente la legittimità delle operazioni successive, purché il processo di anonimizzazione sia stato condotto correttamente e dimostrato in modo adeguato.
L’Opinione dell’EDPB rappresenta un importante passo avanti per la regolamentazione dell’IA, ma si inserisce in un contesto in cui l'equilibrio tra protezione dei dati e innovazione tecnologica è particolarmente delicato. L’approccio rigoroso adottato dal Comitato è certamente giustificato dalla necessità di garantire i diritti fondamentali, ma rischia di creare barriere significative per l’adozione e lo sviluppo delle tecnologie IA nell'UE.
Per migliorare l’efficacia e l’applicabilità delle raccomandazioni dell’Opinione, sarebbe utile integrare indicazioni più pratiche e proporzionate, che tengano conto delle diverse capacità tecniche ed economiche dei titolari. Inoltre, una maggiore enfasi sulla cooperazione tra le autorità di controllo e i titolari potrebbe contribuire a ridurre l’incertezza e favorire un’applicazione più uniforme delle norme.
