L’AI Act non si applica in frontiera: un rischio per i migranti. E non solo

Il 14 giugno 2023 il Parlamento europeo ha approvato l’Artificial intelligence act (AI Act). Si tratta di un passo in avanti nel regolamentare l’utilizzo improprio di tecnologie basate su sistemi di intelligenza artificiale e per costruire una società libera dalla sorveglianza di massa. Eppure, la mancanza di divieti sulle intelligenze artificiali applicate nel contesto migratorio dimostra come l’Unione europea sia ancora indietro per quanto riguarda i diritti delle persone in movimento. “La dignità umana e i diritti umani come valori chiave dell’Unione europea non sembrano applicarsi alle persone in movimento, certamente se non sono bianche”, afferma amaramente Jan Tobias Muehlberg, professore all’Université Libre di Bruxelles e membro di #ProtectNotSurveil, una coalizione di partner della società civile che elabora raccomandazioni sull’applicazione dell’AI Act nel contesto migratorio.

Le frontiere europee sono infatti diventate un laboratorio per la sperimentazione e l’implementazione di tecnologie volte a controllare con strumenti più efficienti i flussi migratori. La persona in movimento, sin dall’arrivo in territorio europeo, è spesso vittima inconsapevole di valutazioni algoritmiche e di violazioni della propria privacy. Strumenti come sistemi di previsione del rischio basati sulla nazionalità e il genere, o sistemi di riconoscimento facciale in grado di acquisire lo stato emotivo della persona, ben si allineano a un processo in atto di securizzazione delle frontiere, in cui il migrante sembra essere percepita come pericolosa di default.

L’Unione europea dispone già di una serie di database centralizzati in grado di processare e conservare un’enorme quantità di dati su chiunque si appresti ad accedere sul suo territorio. Ma al fine di tracciare con più efficacia gli spostamenti dei cittadini provenienti da Paesi terzi, ben tre nuove banche dati saranno operative nel 2024: l’Entry/Exit system (Ees), che registrerà gli ingressi e le uscite di tutti i cittadini di Paesi terzi ammessi per soggiorni brevi; l’European travel information and authorization system (Etias) che richiederà a tutti i viaggiatori esenti da visto di sottoporsi a un processo di pre-screening al fine di ottenere l’autorizzazione prima della loro partenza; l’European criminal record information system for third country nationals (Ecris-Tcn) che consentirà di controllare i precedenti penali delle persone in viaggio.

Ogni database è stato inizialmente pensato come indipendente rispetto agli altri, per via dei differenti contesti istituzionali e legali in cui operano. Ma nel 2019 l’applicazione dei Regolamenti 817 e 818 ha istituito un meccanismo di interoperabilità. “All’inizio, l’indipendenza tra banche dati è stata considerata come ottimale, in quanto ne salvaguardava gli scopi e le limitazioni -spiega Niovi Vavoula, senior lecturer in Sicurezza e Migrazione alla Queen Mary University di Londra-. Successivamente è sorta però l’esigenza di far parlare tra loro i sistemi informativi così da poter ottenere un quadro completo della persona in viaggio in modo efficiente e senza sprechi di tempo. Attraverso l’interoperabilità i database potranno comunicare tra loro, condividendo così un’enorme mole di informazioni”.

Affinché questo scambio di dati possa diventare operativo verranno sviluppati quattro nuovi componenti. Il primo è l’European search portal (Esp) che permetterà l’accesso a tutti i database attraverso un’unica richiesta consentendo così dei controlli automatici simultanei. Il Biometric matching service (Bmc) raccoglierà invece tutti i dati biometrici -in particolare le impronte digitali- dei precedenti databank in unico apparato. “Tutte le corrispondenze e i controlli che necessitano di queste ‘informazioni biometriche’ avverranno attraverso questa componente”, spiega Vavoula. Un terzo componente è chiamato Multiple identity detector (Mid), un sistema che sarà in grado di individuare furti d’identità attraverso un controllo simultaneo nell’Etias e nell’Entry/Exit system. Infine, abbiamo quello che Vavoula definisce “vere e proprie pagine gialle dei database”: il Common identity repository (Cir), che sta al cuore dell’interoperabilità perché conterrà un file individuale per ogni persona registrata nel sistema e conterrà dati biometrici e biografici. Il Cir combinerà i dati di tutte le banche di dati esistenti e il suo obiettivo principale è assistere le autorità nell’individuazione di persone in possesso di false identità e snellire la procedura di consultazione delle informazioni.

L’articolo 83 dell’Artificial intelligence act (AI Act), approvato dal Parlamento europeo il 14 giugno 2023, esclude l’applicazione delle nuove regole ad alcuni sistemi informativi su larga scala che andranno a “colpire” le persone in transito

Questi sistemi non rientrano nell’ambito dell’AI Act. Secondo l’articolo 83, infatti, i sistemi d’intelligenza artificiale che compongono quelli informativi su larga scala implementati prima di 12 mesi dalla data di applicazione delle nuove regole sull’intelligenza artificiale sono esclusi. Siccome l’attivazione dell’Etias è prevista, dopo una serie di ritardi, per il 2024 è ormai certo che la profilazione algoritmica di viaggiatori e migranti non rientrerà nell’ambito della legge. Inoltre, l’approvazione dell’AI Act è soltanto un primo passo. Nei prossimi mesi, si apriranno i negoziati con la Commissione e il Consiglio europeo: gli Stati dalle politiche più stringenti nell’ambito della difesa e della sicurezza dei propri confini nazionali proveranno a stravolgere le carte. “È molto chiaro che si stanno ponendo le basi per la costruzione di una fortezza digitale europea”, sottolinea Niovi Vavoula. I cittadini di Paesi terzi sperimenteranno sulla loro pelle la pervasività delle nuove frontiere digitali. Il loro impatto sarà prolungato nel tempo perché “sin dalla richiesta di un visto nel proprio Paese di origine, la frontiera digitale si attiverà e seguirà la persona in viaggio oltre i confini internazionali”, osserva la ricercatrice.

Sono numerosi i casi delle persone in movimento vittime di discriminazione algoritmica. Nell’aprile 2023 l’Ong Rest of world, attiva nel monitoraggio degli impatti delle tecnologie dietro la “bolla occidentale”, ha pubblicato un’inchiesta in cui ricostruisce come le traduzioni automatiche di lingua pashto e dari, piene di errori, hanno causato l’esito negativo di numerose richieste di asilo di cittadini afghani.

In questo quadro preoccupa la mancanza di trasparenza da parte delle istituzioni europee: “I processi decisionali avvengono a porte chiuse, specie quelli riguardanti la migrazione -spiega Derya Ozkul, senior research fellow al Refugee studies centre dell’Università di Oxford e autrice del report “Automating immigration and asylum” pubblicato nel gennaio 2023-. Quando le soluzioni vengono automatizzate, non si riesce a comprendere che cosa possa essere considerato rischioso e cosa no”.

“C’è scarsa trasparenza. Quando le soluzioni vengono automatizzate, non si riesce a comprendere che cosa possa essere considerato rischioso e cosa no” – Derya Ozkul

Gli stessi cittadini europei dovrebbero considerare le implicazioni di un tale sviluppo delle intelligenze artificiali, dal momento che i loro dati potrebbero finire in pasto ai nuovi sistemi informativi. “Osserviamo già come alcuni di questi database vengano applicati non solo agli ‘stranieri’ -spiega Vavoula- Per esempio, l’Ecris-Tcn raccoglierà sia le fedine penali dei cittadini di Paesi terzi sia di chi gode della doppia nazionalità. Questo dato è particolarmente preoccupante in quanto una maggiore sorveglianza potrebbe includere i cittadini europei nel sistema di interoperabilità”.
Un altro esempio ha a che fare con il trattamento del Passenger name record (Pnr), fornito dai viaggiatori alle compagnie aeree. “Alcuni documenti testimoniano che anche i dati Pnr saranno collegati ai nuovi sistemi informativi -sottolinea Vavoula-. Questi dati riguardano la mobilità e sono indipendenti dalla nazionalità. Si tratterebbe dunque di una grande espansione dell’interoperabilità, dato che al momento è rivolta soltanto a cittadini di Paesi terzi”.

“Sin dalla richiesta di un visto nel proprio Paese di origine, la frontiera digitale si attiverà e seguirà la persona in viaggio oltre i confini internazionali” – Niovi Vavoula

Le tecnologie non sono neutre. Se riteniamo che uno specifico gruppo di persone sia potenzialmente pericoloso, sarà facile progettare strumenti volti a confermare tali pregiudizi. E le stesse persone in viaggio ne sono consapevoli. “Siamo neri e le guardie di frontiera ci odiano. E ci odiano anche i loro computer”, è la risposta che #ProtectNotSurveil ha raccolto da una persona migrante a Bruxelles all’inizio del 2020.

Il quadro che si prospetta non è dei più confortanti. L’AI Act è sicuramente un grande passo di civiltà per ciò che concerne l’applicazione di sistemi di intelligenza artificiale nei vari ambiti della società ma i suoi limiti sono evidenti. “Non è tanto il movimento migratorio ma la mobilità in generale a essere malvista -conclude Vavoula-, tanto da legittimare una maggiore e penetrante sorveglianza”.

© riproduzione riservata