C’è un istante in cui la tecnologia smette di essere uno strumento e diventa un modello di società. Il dibattito sul decreto italiano sull’intelligenza artificiale sembra esser arrivato esattamente lì. Non riguarda soltanto il riconoscimento facciale, né l’efficienza delle indagini di polizia. Riguarda la scelta tra uno Stato che controlla persone sospettate di aver commesso un reato e uno Stato che identifica preventivamente chiunque attraversi uno spazio pubblico.
Mentre il Parlamento accelera l’esame del provvedimento e la Commissione europea ha sollevato dubbi sulla compatibilità di alcune norme con l’AI Act, la Rete per i Diritti Umani Digitali – che riunisce organizzazioni come Amnesty International Italia, Privacy Network, Hermes Center, Strali e The Good Lobby – torna a chiedere modifiche profonde al testo. Non si tratta di un’opposizione ideologica all’intelligenza artificiale, ma della richiesta di rispettare principi fondamentali dello Stato di diritto.
Il nodo principale è l’articolo 10 del decreto. Secondo la Rete, consentirebbe di raccogliere e trattare dati biometrici di persone che entrano in una stazione, partecipano a una manifestazione o assistono a un concerto senza che siano sospettate di alcun reato. Non è più sorveglianza mirata, ma sorveglianza di massa. Per questo le associazioni chiedono la soppressione della norma, oppure almeno l’eliminazione dell’identificazione biometrica in tempo reale, la fine delle autorizzazioni orali e una drastica riduzione dei casi in cui tali strumenti potrebbero essere utilizzati.
La questione è anche europea. L’AI Act considera il riconoscimento biometrico remoto in tempo reale negli spazi pubblici una pratica eccezionale, ammissibile solo in circostanze rigidamente delimitate e previa autorizzazione di un’autorità giudiziaria o amministrativa indipendente. La memoria della Rete ricorda che gli Stati membri possono addirittura introdurre divieti più restrittivi e propone che l’Italia scelga questa strada, vietando del tutto la sorveglianza biometrica negli spazi accessibili al pubblico. In subordine, chiede almeno di recepire integralmente le garanzie europee e di limitare fortemente l’ambito applicativo.
Le ragioni non sono soltanto giuridiche. Sono etiche e democratiche. Il riconoscimento facciale in tempo reale modifica il rapporto tra cittadini e istituzioni. Nella tradizione liberale lo Stato controlla chi è sospettato di aver commesso un reato. Con la sorveglianza biometrica accade l’opposto: tutti vengono identificati, affinché eventualmente qualcuno possa essere selezionato come sospetto. È un ribaltamento culturale che introduce una presunzione di controllabilità universale.
La Rete richiama inoltre un rischio già evidenziato dal Garante per la protezione dei dati personali: il passaggio dalla sorveglianza mirata alla possibilità di una sorveglianza universale. Una differenza tutt’altro che semantica. Sapere di poter essere identificati automaticamente mentre si partecipa a una manifestazione, si incontra qualcuno o semplicemente si attraversa una piazza produce quello che la letteratura definisce chilling effect: le persone non rinunciano formalmente ai propri diritti, ma iniziano ad esercitarli meno liberamente.
C’è poi il problema dell’accuratezza degli algoritmi. La ricerca internazionale ha ormai documentato errori, falsi positivi e prestazioni differenziate tra gruppi di popolazione. Ma anche immaginando sistemi perfetti, la domanda resta politica: vogliamo davvero costruire infrastrutture capaci di ricostruire sistematicamente spostamenti, relazioni sociali e partecipazione politica dei cittadini? Per questo la memoria non si limita a chiedere limiti all’uso della tecnologia. Chiede anche trasparenza sui database biometrici, pubblicazione dei dati sull’utilizzo degli strumenti, statistiche sugli errori, valutazioni di impatto, diritto al reclamo e alla spiegazione delle decisioni automatizzate, oltre all’intervento dell’autorità giudiziaria quale soggetto chiamato ad autorizzare eventuali impieghi eccezionali.
Il punto decisivo, in fondo, è un altro. Le tecnologie di riconoscimento biometrico non sono semplicemente strumenti investigativi più sofisticati. Sono infrastrutture di potere. Una volta normalizzate, sarà sempre più difficile limitarne l’espansione ad altri contesti e ad altre finalità. Per questo il confronto aperto in queste settimane va ben oltre una discussione tecnica sull’intelligenza artificiale. Riguarda il tipo di democrazia in cui vogliamo vivere: una società nella quale la tecnologia rafforza i diritti, oppure una nella quale rende il controllo più semplice, più invisibile e più pervasivo.
