Il progetto di ricerca sull’intelligenza artificiale tra l’Università di Trento e Ibm Israel

Un gruppo di professori dell’Università di Trento ha promosso il 9 giugno una petizione online indirizzata al rettore per chiedere di fare chiarezza sulla partecipazione di un docente del dipartimento di Ingegneria e scienza dell’informazione a un progetto di ricerca europeo sull’intelligenza artificiale (Ai) e sulla privacy, in cui è coinvolta anche la società Ibm Israel.

La lettera ha raccolto in pochi giorni più di 420 sottoscrizioni all’interno della comunità accademica, tra cui circa 260 studenti e 160 tra docenti e personale tecnico-amministrativo ed è stata inviata formalmente al rettore il 16 giugno.

Il progetto, ribattezzato con l’acronimo “Truman” e che inizierà il primo luglio, fa parte di un bando del programma Horizon Europe a cui prendono parte sette centri di ricerca internazionali e cinque aziende private, con un budget complessivo di oltre 6,5 milioni di euro, dei quali 723mila andranno a Ibm Israel e 709mila all’Università di Trento. Nello specifico prevede la progettazione e lo sviluppo di tecnologie e metodologie per migliorare la resilienza dei sistemi d’intelligenza artificiale contro gli attacchi alla sicurezza e alla privacy, lavorando su varie fasi come la raccolta e l’addestramento dei dati. Lo studio in particolare svilupperà sia soluzioni “robuste” in grado di resistere agli attacchi alla privacy esistenti sia nuovi attacchi sviluppati nel progetto.

“Per noi è problematico intraprendere una ricerca universitaria in collaborazione con Ibm Israel, che gestisce l’anagrafe israeliana e la banca dati dei permessi di lavoro e di attraversamento dei cittadini palestinesi – spiega il professore Fabio Massacci, primo firmatario della lettera e membro del Dipartimento Disi-. Alla luce dell’adesione dell’Ateneo alla campagna ‘Un sudario per Gaza’ e alle dichiarazioni del rettore sulla drammatica situazione in Palestina e sull’impegno dell’Università di Trento a tal proposito, chiediamo di revocare la partecipazione al progetto prima che inizi. Questo è particolarmente importante quando la collaborazione è con entità che hanno dei legami con l’apparato militare o che prendono parte a politiche definite come illegali dalla comunità internazionale e come di apartheid da parte di varie organizzazioni della società civile”.

L’azienda Ibm è una multinazionale tecnologica statunitense, con due filiali in Israele, ed è l’operatore informatico che gestisce il Registro della popolazione israeliana, che contiene anche i dati personali dei cittadini palestinesi residenti nei Territori occupati della Cisgiordania, della Striscia di Gaza e sulle alture del Golan. Tramite questo registro le autorità israeliane controllano la gestione dei permessi necessari per i palestinesi per attraversare la linea verde (per motivi di salute, familiari o di viaggio) o i permessi per lavorare all’interno di Israele.

Nel 2017 Ibm ha vinto un appalto per progettare il sistema Eitan, attualmente utilizzato dall’Autorità israeliana per l’immigrazione e le frontiere, che è responsabile anche del rilascio dei permessi per l’ingresso in Cisgiordania di tutti i visitatori internazionali. Secondo il centro di ricerca indipendente Who Profits, che analizza le attività e i guadagni delle società private che operano nei Territori occupati, i dati del registro e del sistema Eitan vengono sistematicamente utilizzati da Israele per l’attuazione di politiche discriminatorie e di apartheid nei confronti dei palestinesi, costantemente penalizzati per quanto riguarda la libertà di movimento e l’accesso ai servizi e i cui diritti non vengono rispettati da Israele.

Alla domanda su che cosa sia un attacco alla privacy di un sistema di intelligenza artificiale, Fabio Massacci spiega che “in sostanza esiste una raccolta di dati sensibili, come quelli sanitari o i permessi di attraversamento per lavoro, che dovrebbero essere confidenziali. Si esegue l’addestramento (training) dei dati per generare un modello di intelligenza artificiale, rivolgendogli poi delle domande per predire il risultato futuro. Il sistema di Ai dovrebbe essere progettato per mantenere la privacy dei dati personali, non rispondendo ad alcuni tipi di domande che coinvolgono informazioni sensibili raccolte sui singoli. Quello che fa una strategia d’attacco è fare delle domande al modello per estrarre determinati dati dal database superandone le difese.  Dal momento che Ibm Israele si occupa sia di strategie difensive che offensive, il problema di misuse (abuso o uso improprio) sorge perché potrebbero allenare il sistema per poi accedere ai dati personali. Nell’ambito del progetto ‘Truman’, secondo l’estratto pubblico, verranno sviluppate delle strategie sia di difesa e di tutela dei dati ma anche di attacco ad un sistema di Ai, rendendo quindi possibile un misuse dei risultati del progetto”.

Nei programmi di ricerca universitari finanziati dall’Unione europea esiste una procedura di autodichiarazione in cui i proponenti decidono se barrare o meno la casella del misuse. Solo chi ha accesso al documento intero del progetto “Truman” (il docente proponente o gli uffici ricerca dell’ateneo) può sapere se questo caso sia stato effettivamente previsto e affrontato.

Contattato da Altreconomia, l’ufficio stampa dell’Università ha dichiarato di aver organizzato un incontro con i promotori dell’appello e con il professore coinvolto nel progetto, prendendo in seria considerazione le criticità sollevate da questa collaborazione. Inoltre l’Ateneo sta portando all’attenzione del comitato etico per la ricerca la questione del misuse e dei possibili abusi che potrebbero sorgere in alcune ricerche universitarie.

Dal punto di vista dei firmatari della lettera la questione fondamentale però è la collaborazione tout-court, visto il ruolo che Ibm ha nella gestione dell’apartheid palestinese. “Questa iniziativa viene promossa con uno spirito di collaborazione nei confronti del rettore, siamo consapevoli che deve approvare un gran numero di progetti e spesso non c’è il tempo di fare un controllo accurato -conclude Massacci-. È amministrativamente difficile interrompere un progetto iniziato, ma in questo caso partirà il primo luglio per cui c’è ancora il tempo di ritirarsi”.

Negli scorsi anni l’università aveva già intrapreso altre collaborazioni con Ibm Israel, una all’interno del dipartimento di Ingegneria e Scienza dell’Informazione che finirà nel 2026, invece un’altra che fa capo alla facoltà di Giurisprudenza è iniziata a gennaio, su un progetto che riguarda l’utilizzo dell’intelligenza artificiale in ambito sanitario. Gli oltre 400 firmatari chiedono agli organi accademici di discutere se sia opportuno o meno che l’Università partecipi in questo nuovo progetto.

© riproduzione riservata