Una partita storica, la finale del campionato di calcio nello stato del Sergipe, Brasile, che vedeva le due squadre del paese, Confiança e Sergipe, contendersi il titolo a quindici anni di distanza dall’ultima volta, è stata oscurata da un fiasco tecnologico. Sabato 13 aprile, mentre le squadre locali si sfidavano, un uomo, un personal trainer di 23 anni è stato erroneamente identificato dal sistema di riconoscimento facciale e scortato via davanti a tutto lo stadio dagli agenti di polizia.
Durante l’intervallo tra i due tempi, secondo la ricostruzione del protagonista che ha condiviso in un post sui social, nonché quanto si osserva da alcuni video circolati in rete, il tifoso del Confiança è stato improvvisamente preso per il braccio dagli agenti di polizia che lo hanno invitato a non reagire ed è stato scortato e condotto in una stanza per essere perquisito e poi interrogato. Tutto questo perché il sistema di riconoscimento facciale lo aveva identificato erroneamente come una persona ricercata.
Questo incidente solleva gravi preoccupazioni riguardo all’uso indiscriminato dei sistemi di riconoscimento facciale. Studi precedenti hanno già evidenziato le discriminazioni e gli errori causati da tali sistemi basati su algoritmi per l’identificazione di persone e a scopi di sicurezza.
I database utilizzati dai sistemi di riconoscimento facciale per associare una foto di un volto, come quella estratta dalle videocamere dello stadio, a un nome e cognome (un’identità) sono notoriamente soggetti a inesattezze, specialmente quando si tratta di individui non bianchi e non binari. Portano ciò che tecnicamente viene definito “falso positivo”, ovvero l’associazione di un nome e cognome a un volto che non corrisponde, e nei casi più gravi, può persino portare a un arresto ingiustificato.
Il fatto che il protagonista di questa amara vicenda abbia dovuto ripetere più volte il suo nome e fornire dettagli personali, incluso il suo indirizzo di casa, per dimostrare la sua innocenza, evidenzia le gravi lacune di questi sistemi e l’eccessiva fiducia che le forze dell’ordine ripongono in essi.
L’approccio “tecnosoluzionista” che guida le forze dell’ordine, con l’impiego di strumenti tecnologici avanzati e invasivi come il riconoscimento facciale, si manifesta pienamente nell’episodio raccontato dal protagonista con la polizia: “Quando hanno visto il nome nel sistema e confermato che era un errore, si sono scusati dicendo che era una procedura standard e che in quel giorno un altro tifoso era stato arrestato correttamente, e mi hanno rilasciato”. Gli agenti si sono basati esclusivamente sulla macchina per l’arresto, e non l’hanno rilasciato fino a che quest’ultima ha emesso che era “giusto” farlo.
Questo episodio richiama l’attenzione anche sulle pratiche di sorveglianza e controllo negli stadi, che stanno diventando sempre più invasive grazie alle tecnologie avanzate. Nonostante le scuse delle autorità, resta l’amara consapevolezza che questa persona è stata trattata come un criminale davanti a migliaia di spettatori, semplicemente a causa di un errore tecnologico.
In Italia, gli stadi sono terreno di sperimentazione per tecnologie di sorveglianza, come dimostrato da un’inchiesta su quello di Roma. Mentre le tifoserie italiane sembrano però poco interessate, il gruppo Antifa Hooligans Brasil ha reagito attivamente condividendo su Facebook il video dell’arresto errato. Si sospetta discriminazione razziale. La squadra Confiança ha offerto al malcapitato un’iniziativa simbolica, invitandolo allo stadio per incontrare alcuni giocatori della squadra e ricevere autografi. Questo non cancella l’ingiustizia subita davanti a migliaia di persone a causa dell’errore di una macchina, ma ha contribuito pubblicamente a portare alla luce l’innocenza e la estraneità del giovane coinvolto. Questa vicenda è un chiaro esempio di come il fattore umano non possa essere ignorato o sostituito in ogni situazione in cui le macchine non possono discernere.
https://www.wired.it/article/riconoscimento-facciale-fallimento-arresto-stadio/
