Quando ho iniziato a occuparmi di diritto applicato all’informatica, più o meno 25 anni fa, era in atto una rivoluzione. L’Internet servendosi del Web aveva esteso universalmente il suo linguaggio, rendendo il mondo della materia “un grande nervo, vibrante migliaia di miglia in un impetuoso punto del tempo”[1]. Se nel 1996 erano connessi a Internet circa 10 milioni di computer, nel 2008 quegli utenti diventarono 600 milioni in tutto il mondo: solo in pochi allora si resero conto di quanto quella rivoluzione avrebbe potuto impattare pesantemente sui nostri diritti e libertà fondamentali.
Oggi siamo miliardi di utenti onnipresenti online[2] e, come ben sappiamo, le nostre “vite analogiche” interagiscono costantemente e senza soluzione di continuità con la nostra vita nel social web. E, da qualche tempo a questa parte, ogni anno spunta una più o meno nuova “rivoluzione digitale”, dal metaverso ai registri blockchain, sino agli odierni sistemi di intelligenza artificiale, proponendo miracoli da una parte e mettendo in discussione le nostre certezze economiche, esistenziali, etiche, quindi, giuridiche, dall’altra.
Eppure, delle problematiche dell’intelligenza artificiale si discute sin dagli anni ’50, non solo negli incubi distopici di qualche regista, musicista o scrittore, ma anche a livello scientifico[3]. E le tre leggi della robotica, citate in un considerando della Risoluzione del Parlamento Europeo del 16 febbraio 2017 contenente “Raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica”, appartengono addirittura agli anni ’40[4].
Insomma, ci sarebbe stato tutto il tempo per non farci sorprendere dalla “nuova” rivoluzione in atto attraverso i sistemi di intelligenza artificiale immessi nel mercato digitale e che costituiscono inevitabilmente un’evoluzione (senz’altro incredibile) di ciò che già c’era, poggiandosi su una progressione algoritmica che si affida alle attuali potenze di calcolo e alle grandi capacità di memoria di cui disponiamo oggi. E gli stessi dubbi, i rischi, le possibili discriminazioni e manipolazioni che ci preoccupano in questi giorni, caratterizzavano i dibattiti di (pochi, attenti) studiosi di anni fa.
Nulla, quindi, di davvero nuovo all’orizzonte, ma senz’altro è in atto un’evoluzione vertiginosa di strumenti tecnologici che, se utilizzati male, possono arrivare a mettere in discussione la nostra stessa esistenza e non perché un’intelligenza artificiale possa sostituirsi a noi, ma più che altro perché strumenti innovativi e potenti (come anni fa è stata, ad esempio, l’energia nucleare) possono essere in grado di sterminarci, se non usati correttamente per il bene comune. Del resto, “il nostro futuro è una gara tra il potere crescente della tecnologia e la saggezza con cui la usiamo”, come ci ha spiegato efficacemente Stephen Hawking.
I sistemi di Intelligenza Artificiale odierni sono espressione dei Big Data e di essi si nutrono per rappresentarci un intelligente inganno, che – nella sua mutevole neutralità tecnologica – da noi deve essere guidato. Le decisioni ultime che ci riguardano devono, infatti, spettare sempre e comunque a noi, mai delegate in toto alla macchina. E le decisioni ultime non sono solo giuridiche, ma anche etiche. Perché l’IA, come la bomba atomica, è oggi “una necessità organica. E se sei uno scienziato non puoi fermare queste cose” (Robert Oppenheimer).
L’ordinamento europeo in questi anni ha quindi – dopo un lungo sonno politico su tematiche che già si discutevano con preoccupazione mista a fascinazione da diversi anni, tra alcuni studiosi di queste materie – intrapreso una strada di sofisticata regolamentazione che consentisse non di bloccare un fiume in piena, ma di arginarne la portata rivoluzionaria, per canalizzarlo così verso il rispetto di nostri diritti e libertà fondamentali.
E la fonte ispiratrice di questa regolamentazione ipertrofica di oggi può essere individuata in Giovanni Buttarelli, il quale nel luglio 2019 ci ha lasciati con questo importante monito: “L’ecosistema digitale si fonda sullo sfruttamento intensivo ed indiscriminato delle informazioni e dei dati personali. Nel corso di poco più di un decennio, la struttura dei mercati è andata convergendo verso situazioni di quasi-monopolio, decretando l’accrescimento esponenziale del potere di mercato di pochi, ma potentissimi, attori privati. Il risultato è la concentrazione del potere di controllo dei flussi d’informazione nelle mani dei giganti del tech, circostanza che facilita il consolidamento di un modello di business basato sulla profilazione e finanche manipolazione delle persone. Si rende a tal proposito necessario un ripensamento strutturale del modello di business prevalente. Si impone, inoltre, un intervento coordinato delle autorità della protezione dei dati, della protezione dei consumatori e della concorrenza, che tenga conto delle sinergie e sfide comuni alle diverse aree di regolazione”[5].
Non c’è traccia in queste profetiche parole dell’intelligenza artificiale, eppure in esse, nella loro incredibile sinteticità, sono condensati tutti i problemi di oggi: disinformazione, manipolazione anche predittiva, profilazioni diffuse in mano a pochissimi player che ovviamente detengono oggi anche i codici relativi ai sistemi di intelligenza artificiale.
Ma le problematiche insite nell’utilizzo dei sistemi di intelligenza artificiale esplodono in tutta la loro controversa attualità nel momento in cui l’uomo subisce la tentazione (e la seduzione) di delegare decisioni che urtano con la propria coscienza etica, oltre che con i principi fondamentali che regolano gli ordinamenti democratici. Nelle terribili guerre che accadono intorno a noi si combatte ormai da tempo affidando agli algoritmi scelte che non ci permetteremmo mai di compiere in modo così scellerato: poiché la macchina mi confida che con una certa probabilità in quel determinato contesto territoriale potrebbe nascondersi un terrorista, pur se con altrettanta probabilità altre vite umane potrebbero essere annientate, ci possiamo così permettere, in una delega dissennata, di affidare all’algoritmo la scelta di decidere come comportarci, accettando il rischio di un incredibile errore. E spensieratamente si decide di pigiare il fatidico bottone se “lui”, esso, ci ha autorizzato a farlo.
Il dramma è questo.
Non sorprende quindi che su tematiche così profonde, delicate e complesse i grandi del G7 chiedano oggi un aiuto anche di natura etica e morale, anche perché più volte la Santa Sede ha dimostrato di comprendere l’importanza della sfida antropologica che ci attende[6]. E mai era accaduto in passato che un Pontefice venisse ammesso in tale consesso internazionale.
Credo che sia indispensabile riportare qui di seguito integralmente la profondità delle parole del Pontefice in questo passaggio:
“Di fronte ai prodigi delle macchine, che sembrano saper scegliere in maniera indipendente, dobbiamo aver ben chiaro che all’essere umano deve sempre rimanere la decisione, anche con i toni drammatici e urgenti con cui a volte questa si presenta nella nostra vita. Condanneremmo l’umanità a un futuro senza speranza, se sottraessimo alle persone la capacità di decidere su loro stesse e sulla loro vita condannandole a dipendere dalle scelte delle macchine. Abbiamo bisogno di garantire e tutelare uno spazio di controllo significativo dell’essere umano sul processo di scelta dei programmi di intelligenza artificiale: ne va della stessa dignità umana. Proprio su questo tema permettetemi di insistere: in un dramma come quello dei conflitti armati è urgente ripensare lo sviluppo e l’utilizzo di dispositivi come le cosiddette “armi letali autonome” per bandirne l’uso, cominciando già da un impegno fattivo e concreto per introdurre un sempre maggiore e significativo controllo umano. Nessuna macchina dovrebbe mai scegliere se togliere la vita ad un essere umano”[7].
E qui, in questa diabolica scelta di affidare all’algoritmo ciò che nessuno Stato democratico e assennato consentirebbe, si annida oggi la complessità del confronto tra Diritto ed Etica, su una scacchiera dove è in gioco la nostra stessa esistenza.
***
Io e Francesca Cafiero abbiamo chiamato a raccolta i vari autori della Rivista a confrontarsi sui tentativi sino ad oggi compiuti per arginare l’avanzata del digitale, una tematica di fondo che impegna e racconta in modo interdisciplinare i vari aspetti della digitalità nelle sue varie declinazioni politiche, sociali, economiche e giuridiche.
Hanno risposto all’appello in tanti fornendo punti di vista critici su diversi argomenti, dalla protezione dei dati, all’archivistica, passando per la sanità alla biometria, sino a toccare i principi generali della nostra democrazia.
Un numero denso e ricchissimo di spunti di riflessione.
Non poteva essere altrimenti.
Buona lettura.
NOTE
[1] La frase è di Nathaniel Hawthorne (4 luglio 1804 – 19 maggio 1864) e si riferiva all’invenzione dell’elettricità, ma è perfettamente calzante per l’Internet e il web.
[2] È utile ricordare l’espressione “on life” coniata da Luciano Floridi che ben rappresenta i nostri tempi digitali.
[3] Si possono ricordare a livello scientifico John McCarty o Herbert Alexander Simon. A livello cinematografico non si può non ricordare Stanley Kubrick con il capolavoro 2001, Odissea nello Spazio. A livello musicale, la memorabile e ipnotica canzone Welcome to the Machine dei Pink Floyd ha segnato il solco della incomunicabilità tra esseri umani causata dall’abuso della Macchina.
[4] Le Leggi nacquero agli inizi degli anni Quaranta, dalla mente di Isaac Asimov, grazie a fruttuose discussioni sulle sue storie robotiche con John W. Campbell, amico nonché curatore di Astounding Science Fiction. Sono divenute un must per la fantascienza sino ai giorni nostri.
[5] Giovanni Buttarelli, relazione nell’evento Dig.eat 2019, “The dark side of…”, atti editi da Moscara Associati.
[6] Il Papa, oltre a donarci profondissime riflessioni sull’ecologia integrale con l’enciclica “Laudato si’” (maggio 2029) ha anche dedicato ben due messaggi all’Intelligenza artificiale: il primo intitolato “Intelligenza artificiale e pace», in occasione della 57esima Giornata mondiale della pace; il secondo «Intelligenza artificiale e sapienza del cuore: per una comunicazione pienamente umana», in occasione della 58esima Giornata mondiale delle comunicazioni sociali.
[7] Papa Francesco al G7, il testo integrale del discorso, 14 giugno 2024, in Vatican News.
Tutti i contenuti presenti in questa rivista sono riservati. La riproduzione è vietata salvo esplicita richiesta e approvazione da parte dell’editore Digitalaw Srl.
Le foto sono di proprietà di Marcello Moscara e sono coperte dal diritto d’autore.
