L’ALGORITMO RISCHIA DI DIVENTARE IL NUOVO VITELLO D’ORO. SE SCIENZA, VIRTU’ E CULTURA DEL DIRITTO NON CAMMINANO INSIEME
Intervista VIP a Giovanni Maria Flick
“Il primo aspetto cruciale che dobbiamo tenere bene a mente è la necessità di acquisire una consapevolezza adeguata del rapporto che esiste tra rischi e opportunità in una società in cui l’automazione risulta ormai componente dominante della vita quotidiana. La consapevolezza può infatti permetterci di evitare errori di percezione, euforia o sottovalutazione, che non possiamo permetterci in questa fase delicata della storia dell’umanità”.
Presidente Flick, il suo ultimo saggio “L’algoritmo d’oro e la torre di Babele (ed. Baldini + Castoldi) offre un’interessante panoramica della contemporaneità. In particolare, insieme alla coautrice Caterina Flick, lei si sofferma sulle opportunità e i rischi della società tecnologica, dominata dal digitale e dall’automazione. A quali scenari dobbiamo prepararci?
Mi capita spesso di citare la metafora dei porcospini, tratta da uno scritto di Schopenhauer: i due animali incontrandosi di notte in inverno, non riescono a trovare la giusta distanza. Se stanno lontani sentono freddo, se si avvicinano troppo finiscono col pungersi; provando e riprovando, riescono a trovare la giusta o quanto meno una accettabile distanza. Quello della distanza o meglio
della cautela da tenere rispetto all’eccezionale progresso della tecnica è il grande tema del nostro tempo. Con molte difficoltà stiamo cercando di studiare il rapporto tra uomo e ambiente, in questa epoca che molti studiosi definiscono dell’antropocene, proprio per il fitto intreccio che lega l’individuo, la società e il contesto naturale che ci circonda. Ecologia e giustizia, natura e società hanno un comune destino. La paura del diluvio universale, che i disastri naturali hanno prepotentemente riproposto, sta giustamente condizionando l’agenda dei governi e facendo alzare la soglia dell’attenzione. Lo stesso percorso, credo, occorre fare per comprendere le implicazioni relative allo sviluppo dell’information society e dell’automazione. Conoscere bene il binomio tra uomo e conoscenza risulterà decisivo, per focalizzare gli scenari che si aprono nell’immediato futuro e per cogliere l’equilibrio tra vantaggi (irrinunziabili) e rischi (inevitabili), nell’entusiasmo ma anche nella preoccupazione per il futuro e per le regole con cui affrontarlo.
Sicurezza e automazione
Intelligenza umana, sicurezza e sistemi automatici, una triangolarità destinata a diventare dominante nel mondo di oggi. È possibile trovare un giusto equilibrio tra uomini e civiltà delle macchine?
Non credo che sia corretta questa contrapposizione. La civiltà è un modo di organizzare la convivenza tra le persone, per rendere possibile il progresso e la crescita collettiva. L’art. 9 della Costituzione ricorda proprio la “missione culturale” della Repubblica, aspetto su cui tornerò più avanti. Quella delle macchine non è dunque una civiltà, come non c’è stata nel passato a mio giudizio una civiltà del legno o del ferro; sono modi impropri per definire alcune tappe del progresso umano nella storia. Strumenti e valori vanno sempre distinti per avere chiaro l’orizzonte problematico di cui ci stiamo occupando.
In uno scritto recente ha tessuto l’elogio della foresta (G. M. Flick, M. Flick, Elogio della foresta, dalla selva oscura alla tutela costituzionale, ed. Il Mulino, n.d.r.) cui fa da contraltare la città. Questo dualismo è molto presente nella sua riflessione. Quale messaggio dobbiamo trarre?
La foresta e la città evocano due modelli contrapposti che sono, contrariamente a quanto si pensa, entrambi complessi. Nella città prevale la logica del profitto nell’organizzazione della convivenza, nella foresta prevale l’ambiente, anche se minacciato, in quest’ultima dovrebbe rimanere dominante. L’uomo ha sempre cercato di organizzarsi in società per ragioni di scambio e per il bisogno di sicurezza o per ragioni di potere,
il rapporto tra sicurezza e automazione – le città vivono l’attualità di questa dicotomia. La tecnologia sta cambiando strutture e organizzazione urbana; pensiamo alle brain city o alle smart city. Tutte prospettive affascinanti a patto di non tradire un principio fondante della nostra Costituzione, su cui si regge la convivenza e il patto sociale che ci tiene uniti: quello della solidarietà e della giustizia sostanziale. Se questo non accade la città tecnologica rischia di creare dei nuovi ghetti, con aree povere che si fronteggiano con isole dorate.
L’identità tra spazio, tempo e relazione
Come ha ricordato in occasione dell’evento dedicato ai 25 anni della privacy esiste il rischio che sistemi guidati da algoritmi sostituiscano l’uomo in funzioni connaturate alla sua identità. Che contromisure vanno adottate?
La privacy ha a che fare con la nostra identità, che è segnata da tre coordinate: spazio, tempo e relazioni, come si evince molto bene dal dettato costituzionale. Pensiamo al diritto all’oblio e al “presente virtuale” che spesso condanna l’individuo senza appello. Questo accade perché vi sono “trappole della memoria” alimentate dalla rete che vanno regolamentate. La riscrittura dell’art.9 della Costituzione è significativa in tal senso, perché guarda al paesaggio non tanto nella fissità di un valore estetico, quanto nella dinamica di un bene comune che deve impegnare la politica, le istituzioni, le organizzazioni internazionali a scelte decisive per l’avvenire delle generazioni future, soprattutto alla luce di una recentissima modifica che rende più esplicita e vincolante in termini di eguaglianza l’indicazione costituzionale. L’art. 41 e l’art. 42 rafforzano questa visione (mi scuseranno i lettori per i continui riferimenti alla nostra Carta Costituzionale, ma sono un giurista non un tecnologo) perché sottolineano come l’iniziativa economica non può svilupparsi a danno dell’ambiente e neppure in contrasto con gli interessi generali e i diritti delle generazioni future. Come vede la riflessione sul dominio sempre più diffuso dell’automazione – oltre a imporre un’analisi attenta sulla “gestione predittiva” nell’amministrazione della giustizia (pensiamo al connubio tra processo, sentenza e nuove tecnologie) – suggerisce di mantenere una visione molto ampia nella lettura di tutte le fenomenologie del cambiamento che investono l’uomo nella triplice dimensione del passato, del presente e del futuro.
L’Algoritmo d’oro è dunque il nuovo vitello d’oro, per tornare al titolo molto evocativo del suo scritto. L’immagine biblica può tornare di attualità, con quali conseguenze?
L’algoritmo in sé non è buono né cattivo; come tutti gli strumenti dipende dalla sua programmazione e dall’uso che se ne fa. Se facciamo prevalere logica del profitto, dati e informazioni diventano merci di scambio, non servono a cercare la verità ma a confondere e a condizionare l’opinione pubblica. Si tende sempre più a profilare gli utenti, a scavare nelle loro abitudini anche più segrete per indurre bisogni artificiali da sfruttare commercialmente o politicamente o ideologicamente e culturalmente. Lo vediamo con quello che sta avvenendo con la guerra in Ucraina, e lo abbiamo visto prima con la pandemia. Una “babele di voci” non sempre competenti e realmente interessate a scandagliare i fatti con la massima obiettività possibile. Da qui l’immagine biblica che evoca il “vitello d’oro” il miraggio dell’arricchimento, cui tutto deve essere sacrificato. Le lingue si confondono e confluiscono in un “linguaggio unico” (tra uomo e uomo, tra uomo e macchina, tra macchina e macchina) come quello della piana di Ur dove si iniziò a costruire la torre di Babele ma l’interesse è uno: il potere e il profitto.
L’informazione non correttamente utilizzata genera queste grandi contraddizioni. L’art. 21 ci viene in soccorso definendo il diritto alla manifestazione libera del pensiero, un diritto che può paradossalmente prevedere l’espressione di falsità. Anche in questo caso bisognerà bilanciare il diritto all’informazione con il diritto a essere informati, nel rispetto della riservatezza e segretezza. Ricordo che abbiamo lavorato con Stefano Rodotà sulla definizione di questi principi, arrivando alla normativa di Schengen, premessa alla definizione della legge istitutiva dell’autorità Garante. Quella intuizione e il percorso che ha guidato il nostro operato rimane valido: alla tutela del corpo fisico, si è aggiunta la tutela di quello che Rodotà ha definito “corpo elettronico” con un’immagine rimasta insuperata.
La torre di babele e il rischio del “folle volo”
La “quarta rivoluzione” che stiamo attraversando avrà una rilevanza più profonda delle precedenti anche sul piano dell’evoluzione del diritto?
Siamo oltre l’Habeas corpus; con la diffusione dell’automazione e dell’algoritmo abbiamo a che fare con una nuova generazione di diritti l’Habeas data e con la sfera dei neuro diritti, mentre nuove discipline prenderanno campo. Primo fra tutte il brain reading, che introdurrà forse strumenti in grado di leggere il pensiero. Credevamo che si trattasse di una superficie insondabile, quella delle motivazioni che albergano nel foro intimo della coscienza, invece, siamo di fronte ad ambiti tutti ancora da indagare, per i giuristi e non solo loro. Una cosa mi rende cautamente ottimista, che vorrei esplicitare a conclusione della nostra conversazione: la scienza si sta rendendo conto che l’accumulo della conoscenza senza virtù, può avere risvolti molto problematici. “…fatti non foste a viver come bruti, ma per seguir virtute e canoscenza” (Inferno, XXVI, 119/120) ci ricorda il sommo poeta. La sete di sapere se non alimentata da valori si può trasformare sempre in un “folle volo” con effetti distruttivi per tutta l’umanità. A maggior ragione ciò deve dirsi rispetto all’ultimo stress test in corso per l’umanità, nel primo ventennio del nuovo millennio: la guerra con la sua novità di globalizzazione; di coinvolgimento dei civili; di utilizzo della cibernetica e delle fake news; di paura nucleare della mutua distruzione. Dopo il terrorismo globale nel 2001, la crisi economica nel 2007, la pandemia nel 2019 e ora anche la carestia come conseguenza della guerra, oltre alla carestia provocata sino ad ora dal saccheggio della natura. Cosa pensiamo sia più giusto fare: continuare a cambiare l’ambiente per adattarlo all’uomo, o cambiare l’uomo per adattarlo all’ambiente?
Autore: Massimiliano Cannata
