Sicurezza e democrazia. Polizia predittiva e riconoscimento facciale spostano l'attenzione dalla colpa provata al rischio ipotizzato. Prima di fidarsi dell'algoritmo servono tre domande
Gli errori commessi nelle indagini sull’omicidio di Chiara Poggi, avvenuto a Garlasco (Pavia) il 13 agosto 2007, bruciano sulla pelle di tutti noi cittadine e cittadini.
A Garlasco si è presa una scorciatoia che ogni investigatore conosce: in un delitto di coppia, si guarda per primo a chi stava accanto alla vittima. Spesso funziona. Quando non funziona, produce errori.
Cosa succederebbe se quella scorciatoia venisse codificata dall’Intelligenza Artificiale e applicata in mille altri casi? Il sistema non si stancherebbe e non avrebbe dubbi.
Il rischio è moltiplicare gli errori. Il rischio è tagliare di netto spazi di libertà e di democrazia già poco ampi, in un mondo che vive all’insegna della paura.
Uno dei temi che più inquietano, nei metodi di indagine, è la Polizia Predittiva: la pretesa di prevedere dove nasceranno i crimini e chi li commetterà, grazie all’Intelligenza Artificiale. Accanto c’è il riconoscimento facciale, che cerca nei volti di una folla le persone sospettate o ricercate.
Il problema, nell’uso di questi strumenti, è che si sposta l’attenzione dalla colpa provata al rischio ipotizzato.
In gioco c’è la presunzione di innocenza: il principio cardine che regge fiducia, diritti e uguaglianza davanti alla legge. Quando la tecnologia trasforma volti e abitudini in profili e previsioni, il confine tra indizio e sentenza si confonde.
Nessuno chiede di rifiutare gli strumenti digitali. Serve capirne il funzionamento e i limiti, per non delegare alla macchina ciò che appartiene al giudizio umano.
Il volto che la macchina legge male
Il riconoscimento facciale mostra bene il meccanismo. I sistemi imparano da archivi di immagini. Se quegli archivi contengono soprattutto volti di uomini bianchi, il sistema impara a distinguere quelli. Sugli altri sbaglia di più.
Sul telefono, un errore così è una seccatura: il volto che non sblocca lo schermo, il filtro che non aderisce ai lineamenti di qualcuno. In un fermo di polizia, lo stesso errore può portare una persona innocente in galera.
Dietro i codici e i pixel ci sono persone: chi progetta, quali mercati immagina, quali corpi considera standard.
La storia dei media lo mostra. I codici tecnici incorporano rapporti di Potere e decidono chi viene rappresentato con precisione negli archivi digitali e chi resta ai margini.
La ricetta del futuro
Gli algoritmi predittivi lavorano in modo affine: prendono il passato, lo trasformano in modello e lo proiettano sul futuro.
Un algoritmo è una ricetta di cucina. Parte da alcuni ingredienti, segue dei passaggi e arriva a un piatto. Chi sceglie ingredienti e dosi sceglie il sapore, e noi il piatto non possiamo assaggiarlo prima.
Gli ingredienti sono i dati. Le dosi sono gli errori che si decide di tollerare. Il cuoco è chi scrive la ricetta e stabilisce quando il piatto è pronto. Ci torneremo.
Gli algoritmi non sono più attori esterni: entrano nelle relazioni e nelle decisioni, accanto a persone e procedimenti giudiziari. Gli studiosi parlano di profonda mediatizzazione.
In questa logica, il tempo non scorre in avanti. Lo scroll di un social insiste con contenuti simili a quelli già visti, come se il tempo si fosse fermato su un eterno presente. Non è un caso che Netflix ci proponga il film che piace a chi ci somiglia; o che somiglia a film che ci sono piaciuti.
La Polizia Predittiva usa la stessa logica. Ti propone come possibile autore di reato se somigli a chi ha già commesso reati. In questo modo, una biografia diventa un destino: ciò che sei stato pesa su ciò che potresti fare.
La presunzione di innocenza si incrina, sostituita da una presunzione di rischio.
Il numero che sembra un fatto
Gli algoritmi godono di un’aura di neutralità. Li percepiamo come un medium che ci conosce a fondo, grazie alla massa di dati che macinano. Sembra che il modello sappia tutto e veda dietro le apparenze.
L’algoritmo invece sta in mezzo: traduce e semplifica. Non è la realtà, è una sua costruzione. Tant’è che si parla di costruzione mediata della realtà, per citare un libro sul rapporto tra media e vita reale.
Quando quella costruzione entra in un verbale giudiziario o in una mappa del rischio, l’abito dell’oggettività nasconde ipotesi e scelte che altri hanno fatto al nostro posto. Il pericolo è scambiare un conteggio di dati per un fatto indiscutibile.
Il rischio più grande riguarda tutti noi. Quando il mondo costruito dai media (Intelligenza Artificiale inclusa) tocca gli aspetti più delicati della vita – sicurezza, relazioni, salute – possiamo trovarci a vivere in un mondo che non abbiamo scelto noi. E a crederlo l’unico mondo possibile.
Chi paga il conto
C’è poi un’altra riflessione da fare. Partiamo da un punto importante: le disuguaglianze, economiche e sociali, contano.
Gli algoritmi non sono neutrali rispetto a chi ha accesso, competenze e risorse. Si formano divari nell’uso dei media (IA inclusa) e negli esiti dell’uso dei mezzi di comunicazione, fino a toccare la sfera della giustizia.
Immaginiamo che nell’archivio su cui addestriamo il sistema i reati registrati riguardino più persone con i capelli rossi. Saranno i “rossi” a risultare più spesso a rischio. Nella realtà non contano i capelli, ma il quartiere, il reddito, l’origine.
Un quartiere popolare compare più spesso nei verbali, perché lì si pattuglia di più. La mappa del rischio segnala quel quartiere e la polizia vi manda altre pattuglie. Altre pattuglie trovano altri reati, e l’archivio si riempie ancora.
In questo modo, accade che la previsione scambi una correlazione per una spiegazione. E ceda al passato il potere di definire il domani.
A pagarne il prezzo sono sempre gli stessi: chi abita nei quartieri già sorvegliati, chi ha meno mezzi per difendersi, chi non sa a chi chiedere conto di un errore.
Quando decide la fretta
Un agente ferma un uomo in strada. Sul tablet del poliziotto lampeggia un riscontro, tra la persona fermata e il database messo in piedi per combattere il crimine.
L’agente ha pochi secondi per decidere se dubitare. Con la fretta ci si fida del modello di Intelligenza Artificiale che ha associato la persona fermata al rischio di azioni criminali.
Indagini e accertamenti hanno invece bisogno del contrario: di tempo, di verifiche, di contraddittorio e di controllo diffuso delle azioni che si mettono in campo quando si combatte il crimine.
Tre domande da fare a ogni algoritmo
Come riconoscere la soglia oltre la quale la tecnologia sacrifica la presunzione di innocenza? Di fronte a dichiarazioni su dati oggettivi e modelli imparziali, a proposito dell’uso dell’IA per contrastare la criminalità, conviene tornare alla ricetta e fare tre domande.
- Gli ingredienti: da dove vengono i dati? Ogni archivio ha una storia e rispecchia pratiche e interessi.
- Le dosi: quali errori si tollerano, e a carico di chi? Quanti falsi positivi e quanti falsi negativi?
- Il cuoco: chi risponde? Chi può contestare, verificare, correggere?
Queste domande non negano l’uso degli strumenti digitali nel contrasto al crimine. Lo rendono responsabile, lo rendono trasparente, e lo rendono proporzionato all’impatto sui diritti.
L’Europa ha già tracciato una prima linea: il regolamento europeo sull’Intelligenza Artificiale (AI Act) vieta di valutare il rischio che una persona commetta un reato basandosi soltanto sul suo profilo.
La macchina aiuta, la persona decide
La bussola pratica sta, allora, nella distinzione tra supporto della tecnologia e decisione umana.
Lo stesso principio vale in guerra. Chi decide un attacco aereo, e con quale autonomia: una macchina o un essere umano capace di discernimento? In Questura o nella caserma dei Carabinieri, la posta è diversa, la domanda è la stessa.
L’esito di un algoritmo è un indizio che orienta, non un verdetto che chiude. Nel riconoscimento facciale una corrispondenza resta un sospetto da verificare, non una prova.
Una mappa del rischio può aiutare a distribuire le risorse. Non può stabilire, da sola, chi merita un controllo invasivo.
Si badi bene: la presunzione di innocenza non è un ostacolo alla sicurezza. È la condizione che rende legittimo l’impegno per una società sicura e democratica.
Serve anche onestà nel raccontare fatti, dati e situazione. I numeri vanno dati con misure, limiti e contesto.
Bisogna ammettere in pubblico che un modello riflette scelte, può sbagliare, convive con altre forme di conoscenza. È un compito per istituzioni, media e cittadinanza.
Torno a Garlasco
Come cittadini possiamo allenare uno sguardo che non demonizza né idolatra la tecnologia, a cominciare dall’IA: sono strumenti potenti, ma sono anche fallibili.
Possiamo chiedere chi decide i parametri, come si raccolgono i dati, quali vie esistono per correggere un errore.
Le decisioni che toccano la libertà di una persona devono restare a una persona, una figura di responsabile, che ne risponde.
Su quelle indagini si è potuto discutere, rileggere gli atti, contestare? Davanti a un algoritmo opaco, chi potrà sollevare un dubbio e aprire un contraddittorio? A chi si rivolgerà una persona segnalata per errore?
La presunzione di innocenza resta la nostra stella polare. Indica la direzione all’innovazione, senza fermarla: verso una giustizia più attenta e più umana.
La giustizia a cui tendiamo è quella che non criminalizza i più deboli, non criminalizza chi non ha potere, e non mette alle corde chi si trova in condizioni di svantaggio.
Maurizio F. Corte
Maurizio F. Corte, giornalista dal 1978, è scrittore per i media e media educator. Professore a contratto all’Università di Verona dal 2003, coordina due Master del Centro Studi Interculturali: Mediazione interculturale, Comunicazione e Gestione dei Conflitti e Comunicazione europea, Media e Giornalismo interculturale. Ogni sabato scrive la newsletter Officina del Vero™.
- La ricerca e l’editing di questo articolo sono state supportate da un uso etico e responsabile dell’Intelligenza Artificiale, addestrata dall’autore per i lavori di inchiesta e di revisione dei testi. Ecco i modelli di IA utilizzati: Gemini Notebook, Claude, Gemini, Manus.
FONTI BIBLIOGRAFICHE
Gli articoli non nascono sul nulla. Si basano su letture di alto profilo e su esperienze professionali e personali. Di seguito alcune delle fonti più importanti a cui l’autore si è rifatto.
Il lavoro di studio e analisi è supportato da un uso etico e responsabile dell’Intelligenza Artificiale, addestrata dall’autore per questi articoli. Ecco i modelli di IA utilizzati: Gemini Notebook, Claude, Manus.
Denis McQuail, Mark Deuze, Media & Mass Communication Theory, SAGE Publications, London, 2020.
Denis McQuail, Journalism and Society, SAGE Publications, London, 2013
N. Berning, Narrative Means to Journalistic Ends, VS Research, Wiesbaden, 2011
E. Goffman, Frame analysis, Northeastern Univ Pr, Boston, 1986
D. Machin – A. Mayr, How to do Critical Discourse Analysis, SAGE Publications, London, 2012
Nicholas Carah, Amy Dobson, Sungyong Ahn, Media & Society, SAGE Publications, London, 2024.
E. Sapiera, Understanding New Media, SAGE Publications, London, 2026
Nick Couldry, Andreas Hepp, The Mediated Construction of Reality, Polity Press, Cambridge, 2016.
Leighton Evans, Media Studies: Industries, Texts and Audiences, SAGE Publications, London, 2023.
Deana A. Rohlinger, Sarah Sobieraj, The Oxford Handbook of Digital Media Sociology, Oxford University Press, Oxford, 2022.
Michael Stevenson, Misha Kavka, Doing Media Research, SAGE Publications, Londra, 2023.
Stanley J. Baran, Dennis K. Davis, Mass Communication Theory (8th Edition), Oxford University Press, New York, 2020.