La polizia predittiva si serve di un algoritmo che elabora dati di crimini storici e ne sviluppa un panorama che prevede il luogo, la data e gli attori di un crimine futuro. Due software spiccano in Italia.
La polizia predittiva (predictive policing) affonda le sue radici in una calda giornata d’estate del 2013, ad Austin, una delle 77 aree comunitarie di Chicago. Il comandante di polizia, Barbara West, si fermò davanti alla casa del ventiduenne Robert McDaniel insieme ad altri agenti del dipartimento. Non erano lì per arrestarlo, ma per tenerlo d’occhio.
Colpi di pistola
McDaniel non si sporcava di crimini violenti, ma solo di arresti per possesso di marijuana o per gioco d’azzardo. Tuttavia, risiedeva in un quartiere di Chicago, dove tutt’ora si registra il maggior numero di omicidi degli Stati Uniti. E soprattutto, l’anno prima un suo amico d’infanzia moriva in una sparatoria.
Infatti, il primo esperimento di polizia predittiva teneva in particolare considerazione il circuito di legami relazionali di una persona inclusa nella “heat list” (“lista calda”), tanto che spesso non riusciva a prevedere il ruolo di questa come vittima o carnefice. Pertanto, Barbara West e i suoi colleghi possedevano dei dati che ipotizzavano la presenza di Robert McDaniel in una sparatoria futura, ma non sapevano da quale parte della pistola si sarebbe trovato.
Alla fine, il ragazzo era diventato una cavia del Chicago Police Department (CPD), controllato negli spostamenti e nelle persone che frequentava.
Qualche giorno dopo, ricevette una telefonata da qualcuno che «avrebbe dovuto essere un amico», il quale lo stava aspettando fuori casa e voleva che gli spiegasse il motivo della heat list e del rapporto con il CPD. McDaniel accettò di incontrarlo, ma mentre tornava nella propria abitazione fu colpito al ginocchio da due colpi di pistola provenienti da un’auto.
Era la mezzanotte del 13 agosto 2020, sette anni dopo. McDaniel passeggiava tranquillo, mentre controllava i messaggi di testo sul suo telefono. Nel buio, sordi colpi di arma da fuoco lo fecero scivolare a terra, a pochi metri da dove accadde la prima volta. Un giallo che si ripete, che così commenta il The Verge:
McDaniel dice che sa chi è stato, ma non andrà alla polizia. Dice di essere l’obiettivo della violenza perché le persone nel suo quartiere credono che sia una spia. Ma McDaniel si rifiuta di denunciare la sparatoria alla polizia perché dice di non essere una spia – e non lo sarebbe mai stato.
L’ironia qui è mozzafiato e del tutto prevedibile. La lista calda potrebbe essere stata progettata per ridurre la violenza, ma per McDaniel, dice che ha portato la violenza direttamente a lui. Gli ha procurato tutte le ramificazioni negative dell’essere un informatore – una spia – senza nessuno dei vantaggi.
Le dinamiche di causa-conseguenza
Il caso McDaniel mostra quali sono le caratteristiche fondamentali della polizia predittiva, che pur dati progressivi miglioramenti tecnologico-scientifici, non ha cambiato il suo processo d’analisi.
Innanzitutto, l’algoritmo predittivo si basa su dati storici abbastanza recenti, che tengono conto dei luoghi e delle persone coinvolti nei crimini registrati. Per questo, i modelli heat maps (mappe di calore) si fanno uno strumento necessario per supporre il momento e il luogo ideali di un avvenimento violento. Una volta individuato, il territorio “ad alto rischio” subisce dei mirati servizi di controllo.
In secondo luogo, la polizia predittiva si basa su un rapporto di causa-conseguenza piuttosto limitato. Infatti, predomina la convinzione che le dinamiche del presente dipendano dalle dinamiche del passato. Questo è riduttivo, perché le condizioni attuali possono provocare una conseguenza del tutto diversa da quella accaduta tempo addietro, dato che i fattori responsabili sono di un numero in realtà incalcolabile. Quando noi chiamiamo “causa” un certo evento, stiamo semplificando una serie infinita di sviluppi spazio-temporali. Nulla è davvero “causa” o “conseguenza” di qualcos’altro.
Così, è molto più ragionevole pensare che sia stata proprio la polizia di Chicago a mettere in pericolo la vita di McDaniel. In un quartiere tra i più pericolosi della città, un comandante di polizia che bussa alla tua porta e non ti sequestra in manette fa di te una persona da eliminare.
Il pregiudizio algoritmico
Un elemento da cui dipendono le analisi dei Big Data nel contesto investigativo è la natura delle informazioni. Perfezionare le intelligenze artificiali tramite tecniche di apprendimento automatico (machine learning) è un’attività che determina il fine della stessa intelligenza artificiale. Se dunque le informazioni dell’algoritmo predittivo risalgono allo storico dei crimini registrati dalla polizia, il risultato della predizione dipende da come la polizia ha registrato i crimini stessi.
Il fatto che la polizia, in un determinato luogo e in una certa ora, arresti un uomo di colore piuttosto che una donna bianca, dipende da una circostanza soggettiva, che non può trasformarsi in un dato oggettivo. Ma così accade. Non a caso, è sempre più frequente la previsione di azioni illecite in luoghi dove sono presenti molte minoranze etniche. Inoltre, questo andamento comporta l’entrata in un circolo vizioso: gli algoritmi invieranno la polizia a controllare sempre più frequentemente le zone in precedenza controllate. Questa forma di “familiarità” deriva dallo stesso percorso di machine learning, poiché la macchina impara prendendo graduale confidenza.
Polizia predittiva in Italia: KeyCrime e XLaw
Dal 2007 ad oggi i nostri funzionari di polizia hanno sviluppato principalmente due software di analisi predittiva: KeyCrime, utilizzato dalla Questura di Milano, e XLaw, sperimentato prima dalla Questura di Napoli e poi esteso anche a Parma, Modena, Salerno, Prato, Venezia.
Rispetto alla voce «Predictive crime analysis», sul sito di KeyCrime si legge:
delia® di KeyCrime individua modelli e profili target preferiti per aiutare la polizia a identificare probabili obiettivi futuri e prevedere quando è probabile che il criminale colpisca. Queste informazioni, nelle mani di esperti investigatori di polizia, consentono una previsione accurata di eventi futuri.
Conoscendo queste informazioni ed essendo consapevoli della propensione del criminale (o meno) alla violenza, alle armi usate in passato, ecc., gli agenti possono essere nell’area e pronti quando è più probabile che un criminale colpisca di nuovo.
Si comprende subito che la struttura di analisi dell’algoritmo predittivo è sempre la stessa: si basa su crimini registrati e sulle caratteristiche dei loro attori. Tuttavia, un dettaglio da sottolineare è che KeyCrime è definito uno strumento che «nelle mani di esperti investigatori di polizia» dà il suo contributo. Non deve essere cioè inteso come una sostituzione del lavoro investigativo svolto da un essere umano.
Lo stesso intento è quello di XLaw, che si definisce un «approccio innovativo ai problemi di insicurezza delle comunità che rivoluziona il metodo tradizionale di Prevenzione dell’illegalità diffusa, perchè si basa sulla possibilità di poter Prevedere […] delitti di tipo cosiddetto “predatorio”». XLaw riconosce il metodo tradizionale di Prevenzione in quello che si fonda sul “già stato”, ossia sulla scelta di intensificare i controlli in zone dove i crimini sono già avvenuti, considerando tali zone come “sensibili” a questi tipi di eventi. Il problema è che, come abbiamo osservato, anche lo stesso algoritmo predittivo si fonda su una logica simile, servendosi di fatti già successi.
La facoltà di prevedere il futuro ha sempre vissuto nei sogni dell’essere umano, tanto quanto il potere di essere unici. Perché questi desideri si accostino, dobbiamo esaltare le nostre capacità attraverso le intelligenze artificiali, e non permettere che queste ci sostituiscano. Ne va dell’integrità e del valore della nostra specie.