I meccanismi di delega della fiducia nell’epoca del soluzionismo tecnologico

Abstract

Quando la tecnologia non ha bisogno di fiducia e si reputa autosufficiente? I modi di generare credibilità sono mutati nel tempo per effetto delle nuove tecnologie e dell’ampia diffusione del digitale. Il concetto di fiducia ha subito un’evoluzione ponendo quesiti nuovi: come si manifesta la fiducia? In chi o cosa riporre fiducia? È possibile delegarla? È davvero ancora necessaria?

La fiducia cieca nella tecnologia è diffusa soprattutto tra i nativi digitali che, spesso, non dispongono di strumenti e competenze idonee a comprenderne la complessità. Non solo: recenti studi rivelano come l’uso inappropriato delle tecnologie possa avere effetti devastanti sullo sviluppo psico fisico in fase evolutiva, ma anche in età adulta con ripercussioni dannose per l’intera collettività[1].

Spesso la tecnologia viene utilizzata per risolvere problemi quotidiani con strumenti apparentemente più efficaci dei metodi tradizionali, ma il vero scarto avviene quando la tecnologia trova soluzioni che prima non esistevano, raggiungendo variabili a cui l’uomo non aveva nemmeno ancora pensato[2].

La fiducia nel soluzionismo tecnologico

Forse una delle caratteristiche maggiormente affascinanti delle tecnologie altamente performanti, come l’intelligenza artificiale, è proprio la capacità di risoluzione di problemi ignoti: un elemento di svolta nell’evoluzione della conoscenza, soprattutto ove venga guidata da una visione di futuro possibile e desiderabile ideata dall’uomo.

L’individuazione di problemi e soluzioni nuove e la creazione di scenari possibili incide significativamente sulle capacità decisionali che aprono un ventaglio di possibilità, tra le quali l’uomo deve operare una scelta. Viene naturale chiedersi se le decisioni che effettuiamo normalmente sono davvero frutto dell’affidamento sulle sole capacità umane o si adagino, più o meno consapevolmente, su una fiducia riposta altrove, magari in un terzo o addirittura in un elemento tecnologico.

Quasi senza pensarci, ogni giorno affidiamo alla tecnologia il compito di risolvere un problema più o meno banale, come ad esempio l’individuazione in tempo reale del percorso stradale più breve. Il conforto di un parere esterno (magari umano o artificiale) solleva l’uomo dallo sforzo cognitivo e dalla responsabilità di assumere decisioni che, per mole ed entità, rappresenterebbero uno stress eccessivo, nell’epoca della connessione costante tra ambiente online e offline.

Un tema centrale, di natura etica e legale, è dato dalla stretta relazione tra il concetto di fiducia e il concetto di decisione che potremmo definire come “scelta compiuta in una situazione di incertezza in cui valutiamo le ragioni che abbiamo per preferire l’una o l’altra delle opzioni disponibili” (cfr. Teoria dei Giochi di J. Nash).

Il passo successivo sarebbe allora quello di chiedersi se esiste il concetto di libero arbitrio e in che misura esso sia attuabile dall’uomo e dalla macchina, in quanto da esso dipende l’attribuzione di responsabilità giuridiche

L’evoluzione del concetto di fiducia

Il concetto di fiducia fa riferimento ad un atteggiamento epistemico verso un’entità a cui ci affidiamo[3] e regge ogni tipo di relazione emotiva e commerciale da secoli, pertanto non stupisce il bisogno umano di affidamento verso un soggetto o entità terza che possa fungere da garante rispetto alle decisioni assunte.

 Se pensiamo al conferimento di un incarico professionale, il rapporto tra assistito e professionista si basa proprio sul concetto di fiducia (intuitus personae) e così vale anche per gli scambi commerciali ove la fiducia viene riposta in un accordo tra le parti, preferibilmente scritto, per blindare le rispettive posizioni.

I modi di generare affidamento sono mutati nel tempo per effetto delle nuove tecnologie e dell’ampia diffusione del digitale. Il concetto di fiducia ha subito un’evoluzione spinta dalla nascita di nuovi quesiti: come si manifesta la fiducia? In chi o cosa riporre fiducia? È possibile delegarla? È davvero ancora necessaria? In ambito tecnologico il concetto di fiducia è strettamente legato alla capacità di controllo da parte dell’uomo sui sistemi e assume connotati precisi in relazione alle caratteristiche tecnologiche.

Ma quando parliamo di tecnologia, a cosa ci stiamo riferendo esattamente? Alle singole applicazioni per gli utilizzi più disparati? All’infrastruttura che regge una determinata tecnologia? Ad una singola tecnologia o alle nuove tecnologie in generale? Alle teorie economiche, filosofiche o politiche che sono alla base degli strumenti tecnologici? A cosa ci stiamo affidando esattamente? Sarebbero quesiti degni di approfondimento oltre i limiti del presente contributo.

Alla luce di quanto brevemente esposto, verrebbe da chiedersi: la tecnologia ha bisogno della fiducia? 

Don’t Trust, Verify

Se parliamo di Blockchain, il concetto di fiducia trova una declinazione interessante e dirompente rispetto al concetto tradizionale. Come noto, la blockchain configura una tecnologia sociale con potenzialità enormi nella distribuzione del valore tra tutti i partecipanti in una logica peer to peer (da pari a pari), con applicazioni innumerevoli in settori eterogenei.

Con il termine blockchain si individua una tecnologia con caratteristiche peculiari riconducibili ai principi di immodificabilità e trasparenza. Tralasciando la specificità di ogni singola architettura che può determinare ecosistemi blockchain anche molto differenti tra loro, basti ricordare che le architetture possibili sono riconducibili agli stessi meccanismi di base. È possibile verificare le attività compiute lungo tutta la catena dei blocchi, garantendo così un controllo effettivo e aggiornato in ogni tempo da parte di tutto il network. Il principio di verificabilità è conditio sine qua per l’adozione di questa tecnologia.

La fiducia viene delegata al protocollo informatico blockchain che esegue il processo in un sistema di partecipanti P2P senza intermediari e secondo dinamiche orientate a garantire la funzionalità e l’efficienza del sistema stesso.

In ambito Blockchain, la fiducia è delegata al protocollo informatico. Blockchain distrugge la necessità di qualsiasi affidamento a terzi e supera la dipendenza dal fattore umano: non crea fiducia ma la distrugge. “Don’t Trust. Verify” ovvero sia “Non ti fidare, verifica” è il motto di ogni sviluppo applicativo di questa tecnologia. Non occorre affidarsi ad una persona o ad un terzo intermediario ma è sufficiente verificare il processo informatico che si presenta irreversibile, immodificabile e trasparente.

L’eliminazione dell’intermediario apre le porte ad un contatto diretto tra i partecipanti che, pur non conoscendosi personalmente, sono parte del medesimo network, senza alcuna necessità di maturare qualsivoglia forma di fiducia reciproca, in quanto partecipano da pari a pari.

Attenzione però quando parliamo di blockchain non stiamo facendo riferimento solo ad un protocollo informatico o ad una tecnologia sociale bensì ad un impianto basato su una specifica visione che si ispira ad una teoria economica elaborata da John Nash e conosciuta come Game Theory (Teoria dei Giochi), la quale incide in modo determinante sul modo in cui ciascuno assume decisioni, all’interno del sistema blockchain.

La Teoria dei Giochi è una scienza matematica che analizza situazioni di conflitto e ne ricerca soluzioni competitive e cooperative. Studia le decisioni individuali in situazioni in cui l’esito finale dipende dalle scelte e interazioni tra i diversi giocatori, intesi come entità capaci di fare ragionamenti logici di complessità elevata, con preferenze coerenti agli esiti finali del processo decisionale e con l’obiettivo di massimizzare le preferenze, in cui ogni partecipante ha una utilità sull’insieme degli esiti del gioco.

E’ una teoria di strategia che funziona perfettamente nei network di più interlocutori che intendono massimizzare il proprio profitto garantendo così l’equilibrio del sistema per tutti. Questo è in estrema sintesi (e in via semplificata) uno dei punti chiave della tecnologia blockchain. La fiducia nel sistema, quindi, deriva dalla visione strategica con cui questa tecnologia specifica è pensata ab origine e sviluppata nelle sue varie architetture.

Fiducia nei sistemi di Intelligenza Artificiale

Se pensiamo ad un sistema di intelligenza artificiale il quesito è articolato in considerazione dell’ampio ventaglio di soggetti coinvolti nella sua progettazione, sviluppo e utilizzazione, pertanto occorre chiedersi: di chi fidarsi? Dell’uomo, della macchina o di entrambi? Come e in che misura? Una fiducia mal risposta nei sistemi di AI può generare un impatto negativo soprattutto nei domini della cybersecurity, delle biotecnologie e della disinformazione.

Se pensiamo poi ad un sistema di intelligenza artificiale di natura generativa dobbiamo porci il quesito anche rispetto alle eventuali creazioni successive prodotte autonomamente dal sistema stesso e alle eventuali riutilizzazioni per l’addestramento di altri sistemi a cascata.

In riferimento all’IA, la fiducia si può declinare in termini giuridici secondo i principi etici di cui è intriso l’intero impianto legislativo dell’AI ACT Reg. UE 2024/1689 entrato in vigore lo scorso primo agosto: il primo regolamento al mondo che stabilisce regole armonizzate sull’intelligenza artificiale. I punti saldi del Regolamento vertono intorno all’idea di sviluppare sistemi di intelligenza artificiale che rispecchino i seguenti principi:

• approccio umano centrico che garantisca in primo luogo la protezione dei diritti umani e delle libertà fondamentali, preservando la democrazia;
• controllo umano significativo sui sistemi mantenendo la decisione e la responsabilità in capo all’essere umano;
• sicurezza e affidabilità dei sistemi tramite sperimentazioni prima dell’immissione sul mercato dei prodotti e servizi; la verifica e validazione successiva, tramite l’esame della qualità e quantità degli algoritmi e dati adottati; la mitigazione dei bias, tramite regole e codici di condotta che diano conto del processo seguito dagli algoritmi; la trasparenza degli algoritmi per rendere spiegabile, conoscibile e trasparente l’algoritmo adottato, nei limiti del possibile, in particolare rispetto ai criteri e parametri in base ai quali sono progettati con lo sviluppo. Si parla quindi della cd. algor-etica cioè l’etica della spiegabilità degli algoritmi che è determinante per promuovere la fiducia pubblica e la confidenza nei sistemi di IA e nelle loro potenzialità, sia in fase di progettazione sia in fase di sviluppo;
• salvaguardia dei diritti e libertà fondamentali anche in ambito privacy e l’attuazione della data protection;
• responsabilizzazione di chi produce, di chi vende e di chi utilizza l’AI lungo tutto il processo.

Senza scendere nella disamina dei problemi noti derivanti da questi sistemi, tra tutti la possibilità di perdita del controllo umano, occorre segnalare che i principi indicati devono trovare attuazione concreta nelle singole organizzazioni in cui si inseriscono anche tenendo conto delle dovute distinzioni dei sistemi di intelligenza artificiale, dai modelli predittivi a quelli generativi ad esempio.

È evidente che il concetto di fiducia dovrà trovare casa non solo nei principi, ma in una chiara visione strategica e sistemica che tenga conto del modello di governance dei dati e di gestione dei processi, dell’intero impianto in cui la tecnologia si cala e scala.

 Nello specifico, non devono sfuggire al controllo parametri e modelli di progettazione degli algoritmi, privilegiando la trasparenza con cui vengono elaborati, nei limiti del possibile e, non da ultimo, della visione etica che si intende perseguire. Poiché dalla visione etica discende direttamente e concretamente quella giuridica di attribuzione di responsabilità.

Conclusioni

La fiducia è certamente un elemento necessario anche al tempo della tecnologia, ma cambiano le modalità di verifica e controllo (ad esempio in termini di trasparenza) e anche i criteri in base ai quali fondarla pertanto occorre cautela nella delega al codice o ad altri meccanismi tecnologici che si reggono esclusivamente sulle scelte a monte dell’uomo, su una visione d’insieme.

Il paradosso sarebbe il raggiungimento di una singolarità tecnologica che comporti il sorpasso dell’uomo e della sua capacità decisionale. Meglio fidarsi dell’uomo o della macchina? La risposta continuerà a non essere affatto scontata.

---

NOTE

[1] Bambini e adolescenti in un mondo digitale a cura delle FIMP Pacini Editore Medicina 2023, disponibile qui.

[2] Mathematical discoveries from program search with large language models 2023, disponibile qui.

[3] Sul punto si veda il Podcast intervista al Prof. Mario De Caro, disponibile in questo numero Digeat rivista n°3/2024.