C’è una precisazione necessaria, perché su una materia del genere l’allarmismo impreciso farebbe soltanto un favore al governo. Il riconoscimento facciale preventivo non è ancora legge: è contenuto nello schema di decreto legislativo con cui l’Italia adegua il proprio ordinamento all’Ai Act europeo, attualmente all’esame parlamentare.
Il testo disciplina più in generale l’impiego dell’intelligenza artificiale nelle attività di polizia e contiene anche garanzie importanti: le decisioni non possono essere affidate automaticamente alla macchina, gli algoritmi devono avere una funzione di supporto, resta necessaria una valutazione umana e viene vietato l’uso dei dati biometrici per dedurre caratteristiche sensibili come orientamento politico o religioso.
Tutto bene, finché si arriva agli articoli che consentono allo Stato di riconoscere il volto di una persona in mezzo a una piazza e, in alcuni casi, di raccogliere preventivamente i dati biometrici di chi entra in determinati luoghi o partecipa a determinati eventi.
L’articolo 8 riguarda l’identificazione biometrica remota in tempo reale negli spazi pubblici. Non consente, almeno sulla carta, di scandagliare indiscriminatamente una folla alla ricerca di qualcuno che potrebbe forse commettere un reato. Le ipotesi indicate sono circoscritte: ricerca di persone scomparse o vittime di determinati gravi delitti, prevenzione di minacce specifiche e imminenti alla vita e all’incolumità, terrorismo, individuazione di persone determinate. Normalmente occorre l’autorizzazione dell’autorità giudiziaria.
Ma in caso di “urgenza”, guada tu il caso, il sistema può essere attivato immediatamente dalle forze di polizia, dopo una comunicazione al pubblico ministero che può essere persino orale: la richiesta formale arriva entro le successive 24 ore e il magistrato dispone di altre 24 ore per decidere.
In altre parole, la garanzia che dovrebbe precedere l’impiego di uno degli strumenti di sorveglianza più invasivi disponibili può, proprio quando la polizia ritiene che serva, arrivare a sorveglianza già cominciata.
Il passaggio ancora più delicato è però nell’articolo 10. Il riconoscimento facciale a posteriori, utilizzato dopo un reato per identificare attraverso immagini una persona già indiziata, segue almeno la logica tradizionale dell’indagine: c’è stato un fatto, esiste un sospetto, si cerca qualcuno.
Ma il testo contempla anche la possibilità che, in luoghi o eventi caratterizzati da particolari esigenze di ordine e sicurezza pubblica, vengano acquisiti ed elaborati preventivamente i dati biometrici delle persone presenti e conservati per sette giorni. Se in quel periodo viene commesso un reato, quei dati possono essere utilizzati per il confronto e l’identificazione.
Ed è qui che ogni circonlocuzione tecnica diventa inutile. Quelle persone, quando il loro volto viene trasformato in un dato biometrico, non hanno commesso niente. Non sono indagate. Non sono sospettate. Sono andate allo stadio, a un concerto, in una piazza, a una manifestazione. Per poter eventualmente trovare il colpevole di domani si crea oggi un archivio degli innocenti.
È vero che i dati dovranno essere cancellati dopo sette giorni, che gli accessi saranno tracciati, che esistono valutazioni d’impatto e controlli. Ma sette giorni di sorveglianza non diventano libertà perché al settimo giorno si preme “cancella”. E un dato biometrico non è una password: una password si cambia, il proprio volto no.
C’è poi un’ingenuità particolarmente irritante nell’assicurazione secondo cui nessuno potrà utilizzare l’algoritmo per ricavare dal volto le opinioni politiche di una persona. Non serve. Se qualcuno viene identificato biometricamente mentre partecipa a un corteo politico, l’informazione sensibile è già prodotta dal contesto.
Lo Stato non deve domandare all’intelligenza artificiale se quella persona sia ambientalista, sindacalista, anarchica o militante di un partito: sa già dove si trovava, quando e insieme a chi. Ed è precisamente questa consapevolezza a produrre il cosiddetto chilling effect: non occorre vietare una manifestazione per limitarne indirettamente la libertà. Basta che chi pensa di andarci sappia di poter finire in un archivio biometrico della polizia.
Non è un timore inventato oggi dalle opposizioni. Nel 2021 il Garante della privacy bocciò il progetto Sari Real Time del ministero dell’Interno, avvertendo del rischio di una sorveglianza indiscriminata e di una trasformazione profonda del rapporto tra cittadino e autorità.
Anche l’Ai Act europeo considera l’identificazione biometrica in tempo reale negli spazi pubblici uno strumento eccezionale proprio perché può produrre la percezione di una sorveglianza permanente e scoraggiare l’esercizio di libertà fondamentali come quella di riunione. Adesso il governo tenta di costruire la cornice normativa per utilizzarlo.
Formalmente non è il “modello cinese”: ci sono limiti, autorizzazioni, casi tassativi. Ma ogni infrastruttura di sorveglianza ha una caratteristica che dovrebbe preoccupare soprattutto chi si dichiara liberale e garantista: una volta costruita, resta. Allargare successivamente i suoi usi è molto più semplice che crearla da zero.
E poi gli algoritmi sbagliano. Il riconoscimento facciale ha fatto progressi enormi, ma continuano a esistere falsi positivi e differenze di accuratezza tra sistemi e gruppi demografici. Dire che alla fine deciderà un essere umano è necessario ma non risolutivo: l’operatore umano riceve comunque un’indicazione prodotta dalla macchina, con tutta l’apparenza di oggettività che accompagna un risultato algoritmico.
Un telefono che non riconosce il proprietario provoca irritazione. Una polizia che associa erroneamente il volto di un manifestante a quello di una persona ricercata produce conseguenze di tutt’altra natura.
Il paragone con Minority Report va quindi maneggiato senza caricature. Nel racconto di Philip K. Dick la polizia arresta le persone prima che commettano un omicidio sulla base delle visioni dei “precog”, finché proprio il capo della Precrime scopre che quelle predizioni possono essere contraddittorie. Il punto non era soltanto fantascientifico: era filosofico e politico.
Una società che pretende di prevenire il delitto finisce inevitabilmente per spostare la propria attenzione dal fatto commesso alla persona che potrebbe commetterlo. Questo decreto non crea la Precrime e non assegna a un algoritmo il compito di predire il prossimo assassino. Ma introduce la stessa pericolosa inversione di prospettiva: non più soltanto partire dal reato per arrivare al sospettato, ma raccogliere preventivamente informazioni sugli innocenti affinché possano tornare utili se qualcosa accadrà.
Prima il sospetto giustificava il controllo. Adesso il controllo può precedere il sospetto. È questo il confine politico che conta, molto più delle rassicurazioni sulla durata di conservazione dei file.
Riccardo Magi ha parlato di passaggio da Fratelli d’Italia al «Grande Fratello d’Italia». La battuta funziona, ma forse Orwell non basta più. Il Grande Fratello osservava continuamente i cittadini. Qui rischiamo qualcosa di diverso: una Grande prigione senza mura, nella quale il recinto è costituito dalle telecamere e la schedatura non richiede più una fotografia segnaletica perché il volto viene acquisito mentre si attraversa normalmente uno spazio pubblico.
Non bisogna essere arrestati perché il meccanismo produca i suoi effetti. Basta cominciare a domandarsi se andare in quella piazza, partecipare a quel corteo o entrare in quello stadio significhi essere identificati e temporaneamente catalogati.
Ed è questo l’aspetto più paradossale per un governo che rivendica continuamente il garantismo. Il garantismo non si misura quando si difendono le prerogative di un imputato celebre davanti alle telecamere. Si misura soprattutto quando lo Stato non ha ancora nulla contro di te.
Una democrazia liberale mette limiti ai propri strumenti proprio quando sarebbero utili, perché sa che il potere non deve essere giudicato soltanto dalle buone intenzioni di chi lo esercita oggi, ma dagli abusi che potrebbe consentire domani.
La sicurezza è un diritto e nessuno può seriamente sostenere che polizia e magistratura debbano rinunciare alle tecnologie capaci di fermare terroristi o individuare autori di delitti gravi. Ma esiste un punto oltre il quale la prevenzione diventa il comodo nome attribuito alla sorveglianza preventiva di tutti.
Quando per cercare il colpevole di domani cominciamo a raccogliere i volti degli innocenti di oggi, non siamo ancora dentro Minority Report. Però la strada è stata aperta. E la cosa più inquietante è che, questa volta, non servono neppure i precog.
