L’Europa sta per usare un algoritmo per prevedere i flussi migratori e la loro gestione
Un’inchiesta dell’agenzia di giornalismo investigativo francese Disclose ha messo in luce i rischi legati a un utilizzo inappropriato dei dati raccolti e degli algoritmi sviluppati da ITFLOWS, un progetto finanziato dal programma quadro europeo Horizon 2020.
È un software che non sembrerebbe fuori posto in un mondo distopico immaginario. Un’intelligenza artificiale in grado di raccogliere migliaia di dati per prevedere i flussi migratori e identificare i rischi di tensioni sull’arrivo dei migranti alle frontiere europee. Si chiama “ITFLOWS” che sta per “Strumenti e metodi informatici per la gestione dei flussi migratori”. Finanziato per cinque milioni di euro dall’Unione Europea e sviluppato da un consorzio formato da istituti di ricerca, una società privata (Terracom) e enti di beneficenza, ITFLOWS è attualmente in fase di sperimentazione e dovrebbe entrare in servizio nell’agosto 2023. Ciò nonostante, ci sono ripetuti avvertimenti che le sue capacità predittive potrebbero finire per essere utilizzate in modo improprio per controllare e limitare i diritti dei rifugiati sul suolo europeo.
Ancora in gran parte sconosciuto, questo programma dovrebbe completare un sistema tecnico volto a monitorare i confini dell’UE, in particolare quelli in Spagna, Italia e Grecia. Finanziato dal programma di ricerca e innovazione “Orizzonte 2020” dell’UE, ITFLOWS prenderà il suo posto insieme all’uso di droni di sorveglianza autonomi, rilevatori nelle zone di transito di frontiera e software per estrarre i dati dei telefoni cellulari.
Secondo la nostra indagine, gli enti di beneficenza Red Cross e Oxfam stanno contribuendo a fornire informazioni importanti per il software utilizzato da ITFLOWS. Questi dati provengono direttamente dalle interviste effettuate nei campi migranti con rifugiati nigeriani, maliani, eritrei e sudanesi. Queste informazioni potrebbero, ad esempio, riguardare le origini etniche, l’orientamento sessuale o la religione degli intervistati. Le filiali italiane di Croce Rossa e Oxfam hanno ricevuto rispettivamente 167.000 euro e 116.000 euro da fondi pubblici europei per il loro aiuto.
“Abbiamo contribuito realizzando 30 interviste a migranti arrivati ??in Italia negli ultimi sei anni”, ha confermato la Croce Rossa Italiana a Disclose. Una volta analizzate e poi rese accessibili tramite un’app chiamata “EUMigraTool”, queste informazioni saranno utilizzate dalle autorità italiane nell’analisi delle “rotte migratorie e delle ragioni che spingono le persone a compiere il viaggio”, ha aggiunto l’ente benefico. Un messaggio simile ha lanciato Oxfam Italia, riconoscendo l’utilità dei dati per i “leader politici dei Paesi più esposti ai flussi migratori”. Questi leader potrebbero anche avvalersi di un’analisi dei rischi politici associati all’arrivo dei migranti sul loro territorio. In effetti, il progetto include la possibilità di studiare l’opinione pubblica in alcuni paesi europei monitorando Twitter.
Rapporti interni allarmanti
In realtà i rischi che il programma possa essere utilizzato in modo improprio sono molto reali. Lo rivelano le relazioni interne al consorzio che Disclose ha ottenuto a seguito di una richiesta di accesso agli atti amministrativi. Questi due rapporti, datati gennaio e giugno 2021, sono stati scritti dai membri del comitato etico del progetto ITFLOWS e le loro conclusioni sono allarmanti. Il primo documento, di 225 pagine, rivela che “il consorzio ITFLOWS è pienamente consapevole dei rischi e dei loro potenziali impatti in termini di pregiudizio dei diritti umani che possono comportare sia le attività di ricerca empirica sulla migrazione che gli sviluppi tecnologici previsti nel Progetto”. Più avanti nel rapporto gli autori fanno il punto. Secondo loro, le informazioni fornite dall’algoritmo “possono comportare diversi rischi se utilizzate in modo improprio per stigmatizzare, discriminare, molestare o intimidire individui, in particolare quelli che si trovano in situazioni vulnerabili come migranti, rifugiati e richiedenti asilo”.
Cinque mesi dopo il consiglio etico ha consegnato un secondo rapporto. Descrive i rischi in modo un po’ più dettagliato: “Gli Stati membri possono utilizzare i dati forniti per creare ghetti di migranti”; “discriminazione per motivi di sessualità, razza, religione, disabilità, età”; “il rischio che migranti e richiedenti asilo possano essere identificati e sanzionati per irregolarità”. Il rapporto mette in guardia anche da un altro pericolo: “I rischi di rafforzare la paura e gli argomenti contro la migrazione, o il crescente incitamento all’odio nelle aree in cui gli abitanti sono informati che i flussi in entrata si sposteranno…”
L’Europa fa orecchie da mercante
Questi avvertimenti sembrano non essere stati ascoltati. Ciò è dimostrato da una valutazione fornita durante un simposio online tenutosi il 16 settembre 2021 da un membro del comitato etico di ITFLOWS, Alexandra Xanthaki, a figure di spicco in Europa, tra cui Zsuzsanna Felkai Janssen della direzione generale per la migrazione e gli affari interni della Commissione europea. “Abbiamo trascorso sei mesi lavorando giorno e notte per creare un rapporto sul quadro dei diritti umani”, afferma Xanthaki, secondo una registrazione ottenuta da Disclose. “E ora mi sembra che quello che dicono i membri della tecnologia sia: non ne stiamo tenendo conto. Allora che senso ha averlo nel progetto?“
La preoccupazione per questa mancanza di precauzione va oltre. Contattato da Disclose, Alexander Kjærum, analista senior presso il Danish Refugee Council (DRC), che siede anche nel consiglio degli utenti di ITFLOWS – il consiglio è composto da persone con esperienza pratica nel trattare con migranti e rifugiati – ha affermato che “c’è un grosso rischio che le informazioni finiscano nelle mani di stati o governi che non le utilizzeranno per rafforzare il supporto e la protezione di questi gruppi vulnerabili, ma le useranno per vomitare più filo spinato”.
Contattata da Disclose, la coordinatrice di ITFLOWS Cristina Blasi Casagran ha insistito sul fatto che il software non sarebbe stato “abusato“. Secondo lei, ITFLOWS dovrebbe persino aiutare l’ingresso dei migranti nell’UE consentendo una “migliore allocazione delle risorse” utilizzate per gestirli al loro arrivo.
L’interesse di Frontex desta preoccupazioni
Un ultimo fattore aumenta il rischio che il software possa essere utilizzato in modo improprio: ed è il vivo interesse mostrato dall’agenzia di frontiera Frontex per ITFLOWS. Secondo i documenti interni, il corpo della guardia costiera e di frontiera dell’UE ha seguito da vicino lo sviluppo dei programmi. Frontex ha anche contribuito attivamente fornendo al progetto i dati raccolti nel corso del suo lavoro. Eppure negli ultimi anni l’agenzia è stata regolarmente accusata di compiere espulsioni illegali e di aver commesso violazioni dei diritti umani.
Sentita su questo, Oxfam ha ritenuto che non vi fosse alcun rischio che il software potesse essere utilizzato in modo improprio per aiutare l’agenzia di frontiera. La filiale italiana della Croce Rossa ha intanto affermato che “la convenzione di sovvenzione che determina l’attuazione del progetto ITFLOWS non nomina Frontex come utente dello strumento, ma semplicemente come fonte di open data”. Nel 2021 Frontex ha indicato ITFLOWS come uno dei progetti di Orizzonte 2020 con il “potenziale” più operativo e innovativo.
(Zach Campbell e Lorenzo D’Agostino su Disclose.ngo del 26/07/2022)
l’associazione non percepisce ed è contraria ai finanziamenti pubblici (anche il 5 per mille)
La sua forza economica sono iscrizioni e contributi donati da chi la ritiene utile
DONA ORA