• Informatica, docente, supporta Pubbliche Amministrazioni e Imprese per la trasformazione digitale. Fondatrice di Stati Generali dell’Innovazione e presidente Caffè della Scienza di Livorno. Componente del Comitato tecnico-scientifico di ANORC Professioni.

Abstract

L’intelligenza artificiale sta trasformando radicalmente il concetto di custodia di dati, documenti e decisioni, spostandolo da una dimensione statica a una processuale e dinamica. In questo scenario, il “pensiero aumentato” ridefinisce il ruolo degli attori umani, introducendo nuove criticità in termini di trasparenza, accountability e sostenibilità digitale. Particolare rilievo assumono i bias, inclusi quelli di genere, che rischiano di essere incorporati e amplificati nei sistemi automatizzati. L’articolo propone una riflessione critica sulle implicazioni di queste trasformazioni, evidenziando il ruolo dell’open source, degli open data e della governance pubblica nella costruzione di un ecosistema digitale equo e inclusivo.

Dalla conservazione alla trasparenza: l’evoluzione della funzione documentale

Per lungo tempo la gestione dei dati e dei documenti, sia nella sfera pubblica sia in quella privata, è stata interpretata secondo un paradigma prevalentemente conservativo. L’obiettivo principale consisteva nel garantire l’integrità, l’autenticità e la disponibilità delle informazioni nel tempo attraverso sistemi archivistici e informativi progettati per preservare tracce stabili di eventi, atti e decisioni.

In questo modello il documento era concepito come un oggetto chiuso, dotato di una forma definitiva e di un valore probatorio relativamente stabile.

Nel settore pubblico, tale impostazione si è progressivamente intrecciata con un principio più recente, fondato sulla trasparenza amministrativa e sull’accessibilità delle informazioni.

L’affermazione degli open data, il consolidarsi degli obblighi di pubblicazione da parte della Pubblica Amministrazione e l’introduzione del Freedom of Information Act (FOIA) hanno infatti segnato una significativa discontinuità. Il dato pubblico ha iniziato a essere considerato non soltanto come elemento da conservare e custodire, ma come risorsa da rendere accessibile, riutilizzabile e verificabile da parte dei cittadini.

In questa prospettiva, la funzione documentale non si esaurisce più nella conservazione della memoria istituzionale, ma si estende alla costruzione di condizioni di trasparenza, rendicontazione, accountability e controllo diffuso sull’azione pubblica.

Il principio di accesso civico generalizzato introdotto dal FOIA ha ulteriormente rafforzato questa trasformazione, spostando il baricentro dalla pubblicazione selettiva di dati e documenti alla più ampia riconoscibilità del diritto dei cittadini a conoscere, interrogare e valutare l’azione amministrativa.

 

Dalla memoria digitale alla produzione di significato

Il consolidamento dell’intelligenza artificiale nei processi decisionali modifica profondamente questo assetto. I sistemi basati su algoritmi di apprendimento non si limitano più a organizzare o recuperare informazioni, ma intervengono nella loro interpretazione, rielaborazione e, sempre più spesso, nella loro generazione.

La conseguenza più rilevante è il passaggio da una logica di memoria digitale a una logica di produzione dinamica del significato. I dati non sono più soltanto registrazioni del reale, ma elementi attivi di un processo cognitivo distribuito.

 

Il pensiero aumentato e la trasformazione del documento

In questo contesto si colloca il cosiddetto “pensiero aumentato”, che non rappresenta una semplice estensione delle capacità cognitive umane, ma una forma di co-produzione della conoscenza tra individui e sistemi artificiali.

La decisione, l’analisi e la sintesi informativa diventano il risultato di interazioni continue tra attori umani e modelli algoritmici, con un progressivo indebolimento della distinzione tra supporto e produzione autonoma. La gestione dei dati e dei documenti non riguarda più soltanto ciò che viene conservato, ma l’intero processo attraverso cui le informazioni vengono trasformate in conoscenza operativa.

Questo cambiamento comporta una profonda trasformazione della nozione stessa di documento.

Da entità statica e conclusa, esso diventa un nodo informativo inserito in un ecosistema dinamico, spesso soggetto a rielaborazioni successive e a versioni multiple. In alcuni casi il documento è il risultato di processi generativi nei quali l’intelligenza artificiale contribuisce direttamente alla sua costruzione.

Tutto ciò mette in discussione categorie tradizionali come l’originalità, l’inalterabilità e persino l’autenticità documentale, spostando l’attenzione verso la trasparenza dei processi che generano l’informazione.

 

Dalla custodia dei dati alla governance dei processi informativi

La conseguenza più rilevante di questa trasformazione è che la gestione dei dati non può più essere intesa come semplice conservazione, ma come governo dei processi informativi.

Diventa essenziale garantire la tracciabilità delle fonti e delle trasformazioni, la comprensibilità dei modelli utilizzati e la possibilità di ricostruire il contesto decisionale. In assenza di tali condizioni, il rischio è una progressiva opacizzazione dei processi, nella quale la complessità tecnologica rende difficilmente verificabili le basi delle decisioni.

Parallelamente, l’intelligenza artificiale sta assumendo un ruolo sempre più rilevante nei processi decisionali, anche in ambito pubblico. La distinzione tra decisione supportata e decisione delegata tende a diventare sempre più sfumata, poiché i sistemi algoritmici non si limitano a fornire suggerimenti, ma influenzano concretamente le opzioni disponibili e le modalità di valutazione.

 

Bias algoritmici e bias cognitivi

Uno degli aspetti più critici riguarda la presenza dei bias.

I sistemi di IA apprendono da dati storici e riflettono inevitabilmente le strutture sociali, economiche e culturali nelle quali tali dati vengono prodotti.

Tra questi, i bias di genere rappresentano una dimensione particolarmente rilevante. Come evidenziato da numerosi studi e approfondimenti, i sistemi di intelligenza artificiale non sono neutrali, ma tendono a riprodurre e spesso ad amplificare le disuguaglianze già presenti nella società, soprattutto quando i dati di addestramento incorporano stereotipi o squilibri strutturali.

Ciò può tradursi in effetti discriminatori indiretti nella selezione del personale, nell’accesso ai servizi, nella valutazione delle competenze e in molti altri ambiti apparentemente neutrali.

Particolarmente significativa è la situazione nel settore sanitario. L’impiego di sistemi di IA può produrre effetti distorsivi nella diagnosi, nella valutazione del rischio e nell’accesso alle cure quando i modelli vengono addestrati su dataset storicamente sbilanciati o non rappresentativi della popolazione femminile. A ciò si aggiunge il fatto che molti farmaci e protocolli terapeutici sono stati storicamente sperimentati prevalentemente su campioni maschili, contribuendo a una persistente forma di disuguaglianza sanitaria.

Gli algoritmi non eliminano le disuguaglianze: tendono piuttosto ad apprenderle, riprodurle e, in molti casi, amplificarle. Il problema non riguarda soltanto la qualità tecnica dei modelli, ma la struttura dei dati che li alimentano e i contesti sociali nei quali tali dati vengono generati.

A questa dimensione si aggiunge quella dei bias cognitivi umani. Gli individui tendono infatti ad attribuire maggiore credibilità agli output dei sistemi automatizzati anche quando non sono pienamente comprensibili o verificabili. Questo fenomeno, noto come automation bias, può ridurre la capacità critica e favorire un’accettazione passiva delle decisioni algoritmiche.

 

Diversità e progettazione responsabile

Affrontare queste problematiche richiede un approccio sistemico. Non è sufficiente intervenire sui risultati finali; è necessario agire a monte, nella progettazione dei sistemi, nella selezione dei dati e nella composizione dei team di sviluppo.

La presenza di una reale diversità di genere nei processi di progettazione non rappresenta soltanto una questione di equità, ma una condizione strutturale per ridurre il rischio di riprodurre stereotipi e distorsioni.

A questa dimensione deve affiancarsi una pluralità più ampia di competenze, provenienti da ambiti giuridici, economici, informatici, amministrativi, politici e sociali. La qualità dei sistemi di IA è infatti strettamente legata alla pluralità delle prospettive che ne guidano la costruzione.

È inoltre necessario prevedere attività di monitoraggio continuo per individuare tempestivamente l’emergere di bias o effetti distorsivi non previsti in fase di progettazione.

 

Sostenibilità digitale e apertura tecnologica

In questo scenario, la sostenibilità digitale assume un ruolo sempre più centrale. L’addestramento e l’utilizzo dei modelli di intelligenza artificiale comportano infatti un consumo crescente di risorse energetiche e infrastrutturali, con impatti significativi sull’ambiente.

La gestione dei dati e dei documenti deve quindi essere ripensata anche in funzione della sostenibilità, considerando non soltanto l’efficienza operativa, ma anche il costo ambientale delle infrastrutture digitali.

Un ulteriore elemento strategico è rappresentato dall’adozione di tecnologie open source. La possibilità di accedere al codice, verificarne il funzionamento e adattarlo a contesti specifici consente di aumentare la trasparenza dei sistemi e di ridurre il rischio di dipendenze tecnologiche opache.

L’open source favorisce inoltre la collaborazione tra istituzioni pubbliche, comunità scientifica e settore privato, contribuendo alla costruzione di ecosistemi più resilienti, verificabili e sostenibili.

 

L’IA nella Pubblica Amministrazione

Nel contesto della Pubblica Amministrazione queste trasformazioni assumono una rilevanza particolare. L’introduzione dell’intelligenza artificiale può migliorare l’efficienza dei processi e rafforzare le capacità analitiche delle amministrazioni, ma richiede al tempo stesso un significativo rafforzamento delle competenze, dei modelli di governance e degli strumenti di controllo.

La trasparenza dei processi decisionali, la gestione consapevole dei dati e la capacità di monitorare i sistemi algoritmici diventano condizioni essenziali per mantenere e rafforzare la fiducia dei cittadini.

La gestione dei bias di genere e delle altre forme di distorsione sistemica non può essere considerata un elemento accessorio, ma deve essere integrata stabilmente nelle politiche di innovazione digitale. Analogamente, sostenibilità e apertura tecnologica devono essere assunte come criteri fondamentali nella progettazione dei sistemi pubblici basati sull’intelligenza artificiale.

 

Governare il pensiero aumentato

L’intelligenza artificiale non sostituisce il pensiero umano, ma ne modifica profondamente le condizioni di esercizio. Il passaggio da una logica di conservazione a una logica di produzione del significato rende la gestione dei dati, dei documenti e delle decisioni un’attività complessa, distribuita e intrinsecamente politica.

Il rischio principale non risiede tanto nell’errore dei sistemi quanto nell’incapacità di comprenderne i meccanismi di funzionamento, le logiche di progettazione e le relazioni di potere che ne orientano l’addestramento e l’impiego.

Governare dati, documenti e decisioni nell’era dell’intelligenza artificiale significa rendere i processi comprensibili, verificabili e sostenibili. Significa assumere la responsabilità di orientare lo sviluppo tecnologico verso modelli più equi, trasparenti e aperti, nei quali l’innovazione non si traduca in opacità, ma in una maggiore capacità collettiva di comprensione, partecipazione e decisione.

Indice

PAROLE CHIAVE: Bias di genere / Decisioni algoritmiche / governance dei dati / intelligenza artificiale / Open source / sostenibilità digitale / trasparenza

Condividi questo contenuto su

Tutti i contenuti presenti in questa rivista sono riservati. La riproduzione è vietata salvo esplicita richiesta e approvazione da parte dell’editore Digitalaw Srl.
Le foto sono di proprietà di Marcello Moscara e sono coperte dal diritto d’autore.