La tesi tecnica in sintesi
La qualità del sistema dipende dall’intera catena socio-tecnica: camere, immagini, galleria, modello, soglia, interfaccia, revisori, autorizzazioni, log, corroborazione e possibilità di interrompere l’uso.
Glossario minimo prima di entrare nella pipeline
| Funzione | Domanda tecnica | Errore tipico |
|---|---|---|
| Detection | È presente un volto e dove si trova? | Confonderla con l’identificazione della persona. |
| Verifica 1:1 | Il volto corrisponde all’identità dichiarata? | Usare metriche 1:1 per descrivere una ricerca 1:N. |
| Identificazione 1:N | Quale identità della galleria è più simile? | Presentare il primo candidato come certezza. |
| Live | Il confronto avviene senza ritardo significativo? | Rinominare “quasi live” un sistema per sottrarlo alle regole. |
| Post-evento | Si analizza un set chiuso di immagini già registrate? | Trasformare un’indagine mirata in ricerca esplorativa. |
Come funziona l’identificazione biometrica remota
Un sistema moderno non “riconosce un volto” come farebbe una persona. Trasforma immagini in rappresentazioni matematiche e calcola somiglianze. La pipeline tipica comprende più modelli, soglie e decisioni organizzative.
1. Acquisizione e qualità
La camera produce immagini che possono essere molto diverse da quelle della banca dati. Risoluzione, illuminazione, angolo, movimento, compressione, distanza, età della fotografia, occhiali, mascherine e occlusioni cambiano la distribuzione degli errori. Una telecamera posizionata troppo in alto può penalizzare persone molto alte o molto basse; esposizioni non corrette possono produrre differenze tra gruppi. La qualità non è un dettaglio “da sistemare dopo”: è parte della validità del sistema.
2. Dal volto al template
Dopo la rilevazione, il software stima punti di riferimento e normalizza l’immagine. Un modello — spesso una rete convoluzionale o un’architettura transformer addestrata con tecniche di metric learning — genera un embedding , cioè un vettore di numeri. Volti della stessa persona dovrebbero risultare vicini nello spazio matematico; volti diversi, lontani. “Dovrebbero” è la parola chiave: il risultato dipende dai dati, dalla versione, dalla qualità e dal dominio operativo.
3. Confronto e soglia
Nel confronto 1:1 si calcola se due template superano una soglia. Nel confronto 1:N il template di ricerca è confrontato con una galleria; il motore restituisce uno o più candidati ordinati per punteggio, eventualmente solo se superano una soglia. Per gallerie grandi si usano indici approssimati per ridurre latenza e costi. Questa ottimizzazione va validata, perché può aggiungere errori rispetto al confronto esaustivo.
4. Tempo reale
Nel live RBI la pipeline si ripete su molte persone e fotogrammi. Il sistema può tracciare lo stesso volto tra camere, deduplicare alert, combinare qualità e punteggio, verificare la watchlist e inviare una notifica. “In tempo reale” non significa necessariamente istantaneo: l’AI Act include brevi ritardi che evitino l’elusione del divieto. Una registrazione seguita da confronto pochi minuti dopo può quindi restare “real-time” se il ritardo non è significativo.
Il tempo cambia il sistema, non soltanto la velocità
Nel live l’output può produrre un intervento immediato e coinvolgere persone estranee al target. Nel post-evento aumenta lo spazio per delimitare filmati, verificare integrità e ottenere autorizzazioni, ma resta il rischio di ricerca esplorativa e conferma automatica del sospetto.
Analisi a posteriori e catena probatoria
L’analisi post-evento offre più tempo e possibilità di verifica, ma non elimina il rischio. Una procedura tecnicamente e giuridicamente difendibile dovrebbe conservare la distinzione tra traccia originale , copia di lavoro, trasformazioni, ricerca automatica e valutazione probatoria.
Preservare il file originale, documentare provenienza e orari, calcolare hash, controllare sincronizzazione delle camere e mantenere una catena di custodia.
Registrare algoritmo, versione, parametri, soglia, galleria, data della ricerca, operatore, trasformazioni e output completo, non solo lo screenshot del candidato.
Il candidato è un indizio da verificare con immagini originali e fonti indipendenti: luogo, orari, testimonianze, accessi, documenti e altri elementi.
| Fase | Buona pratica | Errore da evitare |
|---|---|---|
| Selezione filmati | Set chiuso, pertinente e acquisito lecitamente. | Ricerca “a strascico” su archivi non delimitati. |
| Restauro immagine | Operazioni documentate e reversibili; confronto anche sull’originale. | Usare super-resolution generativa come se ricostruisse fedelmente dettagli identificativi assenti. |
| Galleria | Identità correlate alla specifica indagine, qualità nota e cancellazione a fine necessità. | Watchlist permanente che cresce senza revisione e include soggetti non pertinenti. |
| Output | Lista candidati con punteggi, qualità e limiti; revisori ciechi rispetto a pressioni investigative quando possibile. | Presentare il primo risultato come “match certo”. |
| Conferma | Due verifiche umane nei casi previsti, riscontro indipendente e documentazione del dissenso. | Conferma automatica da parte di un operatore che vede solo il candidato suggerito. |
| Conservazione | Tempi distinti per originali, template, risultati e log; cancellazione verificabile. | Conservare tutto “per sicurezza” o riutilizzare i dati per finalità nuove. |
Le tecniche generative possono produrre un’immagine plausibile, non necessariamente fedele. Quando i pixel identificativi non sono presenti, il modello può inventare dettagli coerenti statisticamente. Un’immagine migliorata deve essere trattata come derivazione, mai sostituire la traccia originale né diventare da sola base di identificazione.
Regola prudente: tutte le decisioni vanno ricondotte all’originale, con trasformazioni tracciate e limiti dichiarati.
Algoritmi, soglie, errori e qualità delle immagini
“Accuratezza 99%” è una frase quasi priva di significato se non indica compito, dataset, soglia, dimensione della galleria e popolazione. Le metriche cambiano tra verifica e identificazione.
L’effetto della prevalenza: molti falsi allarmi anche con tassi piccoli
Immaginiamo 100.000 passaggi, 10 persone realmente presenti in una watchlist, sensibilità del 90% e un tasso di falso alert dello 0,1% sui non-target. Il sistema genererebbe circa 9 alert corretti e 100 alert errati . La maggioranza degli alert sarebbe quindi falsa, non perché il tasso “0,1%” sia enorme, ma perché i non-target sono quasi tutti.
Questo esempio illustra il base-rate problem; non descrive la prestazione di un algoritmo reale. In un progetto occorre calcolare i valori predittivi con prevalenza, soglia, galleria e condizioni operative effettive.
Che cosa dicono i benchmark aggiornati
Il NIST conduce valutazioni continuative. La pagina FRTE 1:1, aggiornata il 15 giugno 2026, elenca 1.425 algoritmi di 437 sviluppatori e misura FMR/FNMR su più dataset; la pagina FRTE 1:N, aggiornata l’8 luglio 2026, elenca 671 algoritmi di 209 sviluppatori e distingue identificazione con soglia da ricerca investigativa con revisione umana. Questi numeri mostrano un ecosistema ampio, ma non autorizzano a trasferire automaticamente una classifica di laboratorio in una piazza, un negozio o una telecamera compressa.
Barre normalizzate sul valore massimo. Fonti e date: NIST FRTE 1:1, 15/06/2026; FRTE 1:N, 08/07/2026.
Il NIST segnala inoltre che i falsi negativi sono fortemente dipendenti dalla qualità delle immagini e che differenziali demografici nei falsi positivi possono persistere anche con immagini di buona qualità, per ragioni legate alle distribuzioni dei punteggi e ai dati di addestramento. Per questo la valutazione deve essere disaggregata per gruppi rilevanti, senza usare l’appartenenza demografica operativamente come scorciatoia di soglia.
Supervisione umana: quando è reale e quando è solo formale
L’articolo 14 non richiede un essere umano “decorativo”. Il sistema deve essere progettato e usato in modo da consentire al supervisore di comprendere capacità e limiti, monitorare anomalie, evitare l’automation bias, interpretare l’output, decidere di non usarlo, annullarlo o invertirlo e interrompere il sistema. Per specifici sistemi di identificazione biometrica remota dell’allegato III, l’identificazione deve essere verificata e confermata separatamente da almeno due persone competenti, formate e autorizzate, salvo la limitata eccezione prevista per alcuni contesti di polizia, frontiera, migrazione o asilo quando il diritto applicabile ritenga tale requisito sproporzionato.
- Autorità: il revisore può bloccare l’azione senza pressione.
- Tempo: dispone di tempo sufficiente e non gestisce una valanga di alert.
- Informazioni: vede immagini originali, qualità, soglia, galleria e limiti.
- Indipendenza: la seconda verifica non è una firma automatica.
- Competenza: formazione su errori, bias, procedure e protezione dati.
- Traccia: decisioni, dissensi, override e motivazioni sono registrati.
- L’operatore riceve soltanto “MATCH 98%”.
- Il sistema mostra un solo candidato e nasconde alternative.
- Il tasso di alert rende impossibile una revisione accurata.
- Chi verifica è premiato per confermare o teme conseguenze se blocca.
- La decisione è già eseguita prima del controllo.
- Il log registra “approvato” ma non che cosa è stato realmente verificato.
Il rischio dell’automation bias
Quando un algoritmo propone un’identità, l’essere umano tende a cercare conferme. La mitigazione richiede design e procedure: mostrare l’incertezza senza falsa precisione, permettere “nessuna corrispondenza”, evitare che il revisore conosca informazioni accusatorie non necessarie prima del confronto, introdurre campioni di controllo, misurare accordo tra revisori e analizzare gli override. La formazione una tantum non basta: occorre test periodico delle prestazioni del team umano-IA.
Tendenze e prospettive 2026–2030
La direzione regolatoria
Il modello europeo sta passando dalla contrapposizione “innovazione contro regole” a una domanda più operativa: quali evidenze dimostrano che il sistema, nel contesto reale, resta entro il rischio accettato? Il Regolamento 2026/1744 alleggerisce e rinvia alcuni obblighi, centralizza parte della vigilanza e amplia semplificazioni, ma non cambia il principio: gli usi biometrici sensibili richiedono tracciabilità, limiti e controllo sostanziale.
Le prospettive più credibili non sono il riconoscimento onnipresente né il suo abbandono totale. Sono usi più delimitati: verifica cooperativa 1:1, gallerie chiuse e temporanee, rifiuto automatico delle immagini scadenti, ricerca post hoc collegata a un caso, autorizzazioni digitalmente tracciate, misure tecniche che impediscono il riuso, audit sul team umano e registri pubblici o riservati controllabili dalle autorità.
Prospettiva: tecniche di riduzione del rischio
Le innovazioni più utili non promettono infallibilità. Rendono il sistema più limitabile, osservabile e revocabile: rifiuto degli input scadenti, elaborazione locale, controllo delle versioni, log esportabili e test continui.
Checklist operative
Prima di acquistare o attivare un sistema
- Descrivere la finalità in una frase verificabile.
- Classificare funzione, ruolo e rischio AI Act.
- Individuare regime dati: GDPR o d.lgs. 51/2018.
- Documentare base art. 6 e condizione art. 9, se GDPR.
- Verificare legge nazionale e autorizzazioni.
- Svolgere DPIA e, se dovuta, FRIA.
- Definire diritti, reclami, contestazione e rimedio.
- Definire galleria, origine, qualità e cancellazione.
- Testare su immagini e popolazione operative.
- Fissare soglie per finalità e costo degli errori.
- Misurare FMR/FNMR o FPIR/FNIR per sottogruppi.
- Prevedere rifiuto per bassa qualità.
- Progettare doppia verifica e potere di stop.
- Registrare versione, parametri, input, output e override.
Dodici domande al fornitore
| # | Domanda | Evidenza richiesta |
|---|---|---|
| 1 | Il prodotto esegue detection, verifica o identificazione? | Diagramma funzionale e dichiarazione d’uso previsto. |
| 2 | Dove viene creato e conservato il template? | Architettura, cifratura, chiavi, localizzazione e subfornitori. |
| 3 | Quali dataset e domini sono stati usati per test? | Rapporto di valutazione, copertura e limiti. |
| 4 | Quali metriche a quale soglia e dimensione galleria? | Curve DET/ROC, FMR/FNMR, FPIR/FNIR e rank-k. |
| 5 | Come varia la prestazione con qualità e gruppi? | Risultati disaggregati e test indipendenti. |
| 6 | Il sistema può rifiutare un input insufficiente? | Soglie qualità e tassi di failure-to-enrol/acquire. |
| 7 | Come si impedisce l’uso di una galleria non autorizzata? | Controlli applicativi, firme, policy e audit. |
| 8 | Che cosa vede il revisore umano? | Demo dell’interfaccia e studio sui fattori umani. |
| 9 | Come vengono registrati versione e parametri? | Schema log, integrità, retention e esportazione. |
| 10 | Qual è la procedura di update e rollback? | Change management e regressione su test operativi. |
| 11 | Come sono gestiti incidenti e vulnerabilità? | SLA, disclosure, patch, notifica e post-market monitoring. |
| 12 | Il cliente può effettuare audit indipendenti? | Clausola contrattuale, accesso a evidenze e portabilità dei log. |
Miti tecnici e automation bias
Falso. Occorrono ricerca mirata, filmati leciti e delimitati, collegamento a un caso, autorizzazione, necessità, protezione dati, log e nessuna decisione solo automatica.
Il ritardo cambia la fattispecie, non elimina i diritti.
Falso. Una firma meccanica non è supervisione effettiva. L’umano deve capire, avere informazioni, tempo e potere di override; nei casi previsti servono due verificatori indipendenti.
Valutare la prestazione del sistema socio-tecnico, non solo dell’algoritmo.
Fuorviante. Senza sapere metrica, soglia, galleria e prevalenza non è possibile tradurre quel numero in falsi allarmi operativi.
Chiedere FMR/FNMR o FPIR/FNIR, valore predittivo e test sul contesto reale.
Fonti, date e URL della puntata
| # | Ente | Documento | Data / aggiornamento | URL | Uso nell’articolo |
|---|---|---|---|---|---|
| 1 | Unione europea — EUR-Lex | Regolamento (UE) 2024/1689 — Artificial Intelligence Act | 13/06/2024; GUUE 12/07/2024; entrata in vigore 01/08/2024 | https://eur-lex.europa.eu/eli/reg/2024/1689/oj | Testo normativo autentico; articoli, considerando e allegati. |
| 5 | Commissione europea — AI Act Service Desk | Articolo 3 — Definizioni | Testo ufficiale 13/06/2024; pagina consultata 30/07/2026 | https://ai-act-service-desk.ec.europa.eu/it/ai-act/article-3 | Definizioni di verifica biometrica, identificazione remota, tempo reale, uso a posteriori e spazio accessibile al pubblico. |
| 7 | Commissione europea — AI Act Service Desk | Articolo 14 — Sorveglianza umana | Testo ufficiale 13/06/2024; pagina consultata 30/07/2026 | https://ai-act-service-desk.ec.europa.eu/it/ai-act/article-14 | Requisiti di supervisione e doppia verifica umana per specifici sistemi biometrici ad alto rischio. |
| 8 | Commissione europea — AI Act Service Desk | Articolo 26 — Obblighi dei deployer | Testo ufficiale 13/06/2024; pagina consultata 30/07/2026 | https://ai-act-service-desk.ec.europa.eu/it/ai-act/article-26 | Condizioni per l’identificazione biometrica remota a posteriori e obblighi degli utilizzatori. |
| 9 | Unione europea — EUR-Lex | Regolamento (UE) 2016/679 — GDPR | 27/04/2016; GUUE 04/05/2016 | https://eur-lex.europa.eu/eli/reg/2016/679/oj?locale=it | Principi, basi giuridiche, categorie particolari, DPIA, diritti e responsabilità. |
| 10 | Unione europea — EUR-Lex | Direttiva (UE) 2016/680 — Law Enforcement Directive | 27/04/2016; GUUE 04/05/2016 | https://eur-lex.europa.eu/eli/dir/2016/680/oj?locale=it | Protezione dati nei trattamenti delle autorità competenti per finalità penali e di polizia. |
| 13 | European Data Protection Board | Guidelines 05/2022 on facial recognition in law enforcement | Versione finale 17/05/2023 | https://www.edpb.europa.eu/documents/guideline/guidelines-052022-on-the-use-of-facial-recognition-technology-in-the-area-of_en | Analisi dei rischi e delle garanzie per l’uso di tecnologie di riconoscimento facciale da parte delle autorità. |
| 20 | NIST | Face Recognition Technology Evaluation — 1:1 Verification | Pagina aggiornata 15/06/2026 | https://pages.nist.gov/frvt/html/frvt11.html | Metriche FMR/FNMR, qualità delle immagini e differenziali demografici. |
| 21 | NIST | Face Recognition Technology Evaluation — 1:N Identification | Pagina aggiornata 08/07/2026 | https://pages.nist.gov/frvt/html/frvt1N.html | Metriche FPIR/FNIR, ricerca investigativa e prestazioni su gallerie. |
| 22 | NIST | Face Recognition Vendor Test Part 3 — Demographic Effects, NISTIR 8280 | 19/12/2019; pagina aggiornata 07/05/2026 | https://www.nist.gov/publications/face-recognition-vendor-test-part-3-demographic-effects | Studio di riferimento sugli effetti demografici e sugli errori. |
| 23 | NIST AI Resource Center | AI Risk Management Framework — Core/Playbook | Pagine correnti consultate 30/07/2026 | https://airc.nist.gov/airmf-resources/airmf/5-sec-core/ | Ruoli, responsabilità, misurazione, supervisione e gestione del rischio nel ciclo di vita. |
| 24 | Consiglio d’Europa | Convention 108+ — Data Protection Convention | Protocollo di modifica aperto alla firma 10/10/2018; consultato 30/07/2026 | https://www.coe.int/en/web/data-protection/convention108-and-protocol | Quadro europeo sui principi di protezione dei dati, utile come contesto sovranazionale. |
| 25 | Corte europea dei diritti dell’uomo | Guide on Article 8 of the European Convention on Human Rights | Aggiornata 28/02/2026; consultata 30/07/2026 | https://ks.echr.coe.int/web/echr-ks/d/guide_art_8_eng | Contesto giurisprudenziale sul diritto al rispetto della vita privata. |
Disclaimer finale
La puntata espone il quadro generale conosciuto al 30 luglio 2026. Non sostituisce l’analisi di un professionista sul caso concreto. Le valutazioni politiche e istituzionali sono attribuite; nessuna persona, impresa o amministrazione è accusata di condotte illecite in assenza di una decisione dell’autorità competente.