Nell’era dei Robot è sempre la competenza umana il motore dello sviluppo
di Giovanni Lo Storto* e Daniele Manca*
Frank Pasquale, esperto del rapporto tra tecnologia e legge, da anni lavora sulle profonde asimmetrie informative che caratterizzano l’era degli algoritmi. Lo studioso si è ritagliato negli ultimi anni – con merito – un ruolo da vero precursore della materia. Trae spunto, in questo suo nuovo lavoro, da una semplice constatazione: l’abilità di una macchina o di qualsiasi sistema di automazione, in grado di mostrare capacità umane, non va confuso con l’effettivo possesso di quelle capacità. La parola chiave è simulazione, una parola-bussola che, seguendo il ragionamento di Pasquale, deve guidarci nell’articolare quella “difesa delle competenze umane” che, a detta dello studioso statunitense, rappresenta il cuore della missione fondamentale della nostra specie – mantenere l’innovazione saldamente dalla nostra parte. Possiamo, secondo l’autore, evitare le “conseguenze peggiori della rivoluzione dell’intelligenza artificiale e allo stesso tempo sfruttare il suo potenziale”: una posizione non dissimile da quelle espresse da pensatori come Roy Kurzweil, che ha fissato il 2045 l’anno in cui dovrebbe avvenire la singolarità tecnologica, immaginando un mondo in cui esseri umani e macchine saranno ibridate; o o Hannah Fry, la matematica che ha suggerito come neutralizzare una “tecnologia cattiva” favorendo quella “buona”.
In Homo Deus, Yuval Noah Harari ha sostenuto che entro un secolo le tecnologie trasformeranno nel profondo la razza umana in creature simili a divinità, alimentate dall’intelligenza artificiale e da una miriade di tecnologie che emergeranno da una rivoluzione che egli chiama chiama datismo. Harari riconosce che una visione del genere può essere trasformata fin troppo facilmente in una sorta di “religione della tecnologia”. Egli, tuttavia, abbraccia pienamente il nucleo vitale che sta alla base delle sue preoccupazioni. Alla domanda se le persone debbano resistere a un futuro di progresso tecnologico apparentemente inevitabile, risponde subito: “È impossibile fermare il progresso tecnologico”.
Ci troviamo allora forse nella stessa posizione di Jehuda Löw, capaci di costruire esseri possenti al nostro servizio, ma sempre correndo il rischio che una nostra distrazione, omettere di inserire la tavoletta di legno nella bocca del golem o, fuor di metafora, consentire che l’AI si sviluppi in un contesto di leggi e policy deboli, faccia sì che sfuggano al nostro controllo, diventando una minaccia per noi stessi? Dov’è finito il “sublime digitale” che teorizzava Vincent Mosco, quella qualità della tecnologia e del cyberspazio che ci faceva pensare a un nuovo futuro di apertura e libertà guidato proprio dallo sviluppo delle tecnologie digitali? Forse, e non sarebbe un esito negativo, il nostro rapporto con il mondo digitale sta solo vivendo i dolori della crescita. L’innovazione (e il nostro adattamento), del resto, è un processo di crescita non tanto differente da quello che riguarda i nostri corpi: procede per piccoli strappi e adattamenti successivi, a volte repentini, a volte persino un po’ dolorosi. L’esplosione davanti ai nostri occhi dell’era digitale, qualche anno fa, ci ha riempito di entusiasmo. Andando avanti, abbiamo iniziato a percepire qualche turbamento, e poi ci siamo spaventati. Come è possibile che il sogno si sia trasformato in un incubo? Forse non è successo: forse era il nostro sguardo ad essere naturalmente immaturo, e così forse oggi eccediamo nella misura del nostro spavento. È questo il senso del libro di Frank Pasquale: lo sviluppo tecnologico non è il golem, ma un entusiasmante percorso che non sappiamo dove ci porterà, e proprio questo è il bello. Nei prossimi dieci anni vivremo più cambiamenti che nei precedenti due secoli e mezzo, ha osservato Peter Fisk rischiamo di non goderci lo spettacolo perché, forse, abbiamo lasciato che per certi aspetti lo sviluppo procedesse in modo sregolato. Ecco cosa sono le nuove leggi di Pasquale: le regole che consentiranno al gioco di svolgersi correttamente. Frank Pasquale non è il solo ad essersi espresso in questo senso. Il “teorico del tutto” Stephen Hawking e il creatore di SpaceX e Tesla, Elon Musk, sono stati, tra i tanti, forse i più notevoli sostenitori dell’urgente necessità di regolamentare l’AI per evitare che l’umanità paghi un prezzo troppo salato, e ai loro nomi così eclatanti si aggiunge una lunga lista di pensatori, intellettuali, filosofi, policy-makers… È proprio sull’urgenza e la natura di questa regolamentazione che è costruita la profonda riflessione di Frank Pasquale, che ricorda come le leggi di Asimov (uno: un robot non può recar danno a un essere umano né permettere che, a causa di un suo mancato intervento, un essere umano riceva danno; due: un robot deve obbedire agli ordini impartiti dagli esser umani, purché non vadano in contrasto con la prima legge; tre: un robot deve proteggere la propria esistenza purché non vada in contrasto con la prima o la seconda legge), non bastino più. Oggi l’umanità si trova a fronteggiare rischi molto più insidiosi di quelli immaginati dal filosofo e scienziato di origine sovietica. Le leggi di Pasquale sono le linee guida lungo le quali organizzare la nostra difesa: l’AI deve essere complementare alla competenza umana, diventare una intelligenza aumentata più che artificiale, strumento al fianco di professionisti e lavoratori e non loro sostituto; non bisogna consentire a nessuno, big tech incluse, di contraffare l’umanità – di dare cioè ai sistemi di AI voci e fattezze umane, di istruirli a simulare emozioni e comportamenti di uomini e donne; è necessario combattere la corsa agli armamenti che le nuove tecnologie rischiano di innescare; infine, la trasparenza deve essere un requisito irrinunciabile dei sistemi intelligenti, che devono recare i nomi di chi li ha creati e li controlla. Sullo sfondo, rimane un principio che Pasquale lascia implicito e che noi proviamo a chiarire, prendendo in prestito le parole di Gerd Leonhard: il futuro – inteso anche nel senso materiale delle nuove tecnologie – non è qualcosa in cui inciampiamo, non è un’ombra che ci sovrasta, un accadimento ineluttabile che siamo costretti a subire.
Il futuro è quello che facciamo noi ogni giorno: siamo noi nella cabina di comando.
Le nuove leggi della robotica è un libro che potrebbe benissimo essere usato dai legislatori per scrivere le leggi e i regolamenti che governeranno lo sviluppo dell’AI nei prossimi anni, anzi, è auspicabile che venga letto e discusso ampiamente. L’ambito del lavoro e della difesa della competenza umana, benché di estrema importanza e vastissimo, è tuttavia addirittura limitato se paragonato alla reale portata della sfida che secondo Frank Pasquale ci stiamo giocando: secondo lui infatti – ed è difficile dargli torto – limitare la competenza al contesto delle professioni è tanto fuorviante quanto pericoloso. Sono i valori umani la vera competenza da preservare: e così, nell’era della tecnologia esponenziale, viene da concludere che al cuore del vero sviluppo c’è la trasmissione di quei saperi che, da sempre, rendono gli esseri umani quello che siamo. Ma la regolamentazione, le leggi, l’apprendimento di discipline e materie inutili o magari addirittura umanistiche, tutto questo parlare di etica, insomma – non rischia di frenare l’innovazione? Forse: ma tutto dipende dal senso e dal valore che diamo alla parola innovazione. Perseguire uno sviluppo tecnologico e una crescita economica senza limiti e senza badare alle conseguenze somiglia davvero a una strada che sale? Ricordare che si è inseriti in un sistema – una società, una comunità, un ecosistema… – che è anche nostra responsabilità curare, a volte anche prima di un interesse individuale, è davvero un segnale di decrescita? Sul terreno dello sviluppo tecnologico si gioca oggi una partita di cruciale importanza per il genere umano, e siamo così fortunati da essere noi a poterla giocare. Dimostriamo di esserne all’altezza.
*Gionanni Lo Storto direttore generale Università Luiss Guido Carli e Daniele Manca vicedirettore del Corriere della Sera sono autori della prefazione del saggio di Frank Pasquale. Ne pubblichiamo un estratto ringraziando la Luiss University Press per la gentile concessione
Le Nuove leggi della robotica
Autore: Frank Pasquale
ed. Luiss University Press
