Fidarsi è bene, ma presidiare è meglio

Abstract

La normativa sull’IA è molto chiara nel ribadire l’importanza, se non l’obbligo, in certi contesti, del presidio umano nei processi che prevedono l’utilizzo dell’IA. Questo aspetto, seppur di centrale rilevanza, a volte sembra essere sottovalutato dalle realtà aziendali, laddove capita di assistere sempre più spesso ad utilizzi poco presidiati, in preda al canto delle sirene dell’IA, che rende tutto più veloce, chiaro e performante. Il rischio di cadere nel c.d. Automation Bias, ovvero nella eccessiva fiducia che un individuo ripone su un sistema automatizzato, ritenendolo più preciso e affidabile rispetto all’essere umano, può determinare la sottostima della capacità umana con conseguente riduzione del livello di controllo e di supervisione, accettando i risultati forniti senza verificare attentamente la correttezza delle informazioni. Questo pregiudizio, ove non mitigato, può portare pesanti conseguenze in termini di responsabilità a carico dell’azienda o del professionista. Negli ultimi mesi, infatti, sempre più Tribunali si sono trovati ad affrontare la tematica dell’utilizzo indiscriminato dell’IA, con pesanti risvolti anche risarcitori. Appare quindi fondamentale promuovere il bilanciamento uomo-macchina, adottando strategie e regole per preservare il ruolo centrale del giudizio umano.

L’incremento dei sistemi di IA generativa nella quotidianità operativa aziendale

L’Intelligenza Artificiale sta diventando sempre più parte dei processi e dell’operatività quotidiana di aziende e studi professionali. Dai modelli generalisti alle piattaforme verticali specifiche (si pensi ai vari applicativi per il mondo forense disponibili oggi sul mercato), l’utilizzo di sistemi di IA generativa è uno strumento per molti ormai imprescindibile.

Il rapporto tra IA e individuo è oggetto di ampi dibattiti etici, filosofici e giuridici, con posizioni differenti. Se è vero che l’Intelligenza Artificiale risulta essere eccellente in alcune tipologie di compiti ripetitivi, o in analisi e monitoraggi complessi, è altrettanto vero che la stessa non può sostituirsi all’uomo, mancandovi di coscienza, intenzioni proprie e analisi profonde dei singoli contesti. La relazione, quindi, deve essere vista come sinergia e collaborazione, ove l’IA agisce come potente strumento per aumentare le capacità umane, ottimizzando compiti, mantenendo invece l’uomo le proprie caratteristiche di empatia, creatività e giudizio.

In questo bilanciamento, deve essere tenuto ben in mente un aspetto determinante. Il fatto che l’IA fornisca risposte rapide, puntuali e convincenti non deve essere motivo per affidarsi totalmente alla bontà del sistema: l’operatore deve mantenere un ruolo attivo di supervisione e validazione del risultato. Diversamente, il rischio di pervenire a esiti critici, se non dannosi, è dietro l’angolo.

Ecco perché è fondamentale che le aziende impartiscano chiare istruzioni per fare in modo che i dipendenti mantengano un ruolo di controllo e vigilanza, senza cedere al rischio dell’eccessiva fiducia nell’uso di questi sistemi.

La centralità del giudizio umano, infatti, non deve ritenersi appannaggio esclusivo dei sistemi ad alto rischio, dovendo invece essere intesa come atto di responsabilità e garanzia per un utilizzo corretto di tutti i sistemi di IA.

L’Automation Bias: la trappola della fiducia cieca nell’automazione

La crescente efficacia dei sistemi di IA può comportare il sorgere di un rischio cognitivo insidioso, in grado di compromettere la qualità del lavoro e la sicurezza aziendale: l’Automation Bias.

L’Automation Bias (o pregiudizio dell’automazione) è la tendenza umana a privilegiare i suggerimenti dei sistemi automatizzati, anche quando questi contrastano con il proprio giudizio o con evidenze oggettive.

Questo fenomeno si verifica quando la nostra mente smette di analizzare criticamente la realtà perché si fida ciecamente di un sistema tecnologico. Si divide in due tipologie di errore:

• Errori di omissione: non ci si accorge di un problema reale perché il sistema non ha emesso alcun segnale di allarme;
• Errori di commissione: si esegue un’azione sbagliata suggerita dal sistema, ignorando le prove evidenti che indicano di fare il contrario.

Questa tendenza cognitiva, individuata in studi di psicologia applicata e scienze comportamentali, deriva dalla convinzione diffusa che le tecnologie avanzate, tra le quali vi rientra a pieno titolo anche l’IA, siano più efficienti, precise e infallibili rispetto al giudizio umano, assumendo una veste di esperto autorevole.

Il fenomeno è riconducibile a diversi fattori:

• Risparmio cognitivo: il nostro cervello cerca scorciatoie per risparmiare energia; fidarsi di una macchina è meno faticoso che analizzare i dati da zero e riduce il carico cognitivo;
• Percezione di infallibilità: tendiamo a vedere gli algoritmi come matematicamente perfetti e superiori, dimenticando che sono addestrati su dati che possono essere imperfetti;
• Eccesso di fiducia: più un sistema funziona bene nel tempo, più abbassiamo la guardia, smettendo di monitorarlo attivamente.

Il concetto di Automation Bias è stato coniato alla fine degli anni Novanta nell’ambito di uno studio sull’aviazione da parte di due ricercatrici, Kathleen L. Mosier (San Jose State University and NASA Ames Research Center Moffett Field, CA) e Linda J. Skitka (University of Illinois, Chicago) per la rivista “The International Journal of Aviation Psychology”, riferendosi all’Automation Bias come agli “errori di omissione e di commissione derivanti dall’uso di spunti automatici come sostituto euristico della ricerca e dell’elaborazione attenta delle informazioni”. Lo studio, che ha coinvolto un campione di piloti nell’utilizzo di simulatori di volo, ha evidenziato che i partecipanti che si percepivano come responsabili (accountable) delle proprie strategie di interazione con l’automazione hanno verificato il corretto funzionamento della stessa con una frequenza significativamente maggiore, commettendo inoltre un numero sensibilmente inferiore di errori legati all’automazione rispetto a coloro che non riportavano tale percezione.

Si tratta evidentemente di un fenomeno che può trovare applicazione in vari contesti, dai più banali a quelli più critici. Pensiamo, ad esempio, al navigatore satellitare. Quante volte ci è capitato di trovarci in strade assurde seguendo le indicazioni del GPS anche quando eravamo consci, orientandoci con i riferimenti territoriali, che stavamo svolgendo un percorso non ottimale? In questi casi il rimedio all’errore è molto facile e non comporta conseguenze particolari. In altri ambiti, invece, il rischio sotteso è decisamente più elevato, basti pensare, ad esempio, alla medicina, ove l’affidamento totale del medico ai sistemi automatizzati, senza un reale senso critico, può comportare esiti pericolosi per il paziente.

L’Automation Bias, rapportato ad un contesto aziendale, può declinarsi in vari modi, con il rischio di incidenti, errori o altri effetti negativi.

Affidarsi esclusivamente all’automazione senza una supervisione umana (il cosiddetto approccio “Human out of the loop”) comporta pericoli concreti, ad esempio:

1. Errori a cascata: un’allucinazione di un modello linguistico o un errore in un foglio di calcolo generato dall’IA possono inquinare decisioni strategiche, portando a perdite finanziarie o danni reputazionali;
2. Atrofia delle competenze: delegando interamente il pensiero critico alle macchine si perde gradualmente la capacità di risolvere problemi complessi, con il rischio di giungere gradualmente ad un’atrofia professionale;
3. Responsabilità legale ed etica: in caso di errore, l’azienda o il professionista rimane l’unico responsabile.

Deve essere ben chiaro che i sistemi automatizzati, per quanto performanti, non sono immuni da errori, riflettendo i limiti, le supposizioni e i bias insiti nei dati. A questo, deve aggiungersi il necessario controllo che i contenuti generati non violi diritti altrui. Se si dimentica questo, allora è evidente come la nostra fiducia nei sistemi appaia del tutto mal riposta.

Il ruolo del presidio umano nell’IA nella recente giurisprudenza

A seconda del caso d’uso, il mancato controllo degli output generati dai sistemi di IA può determinare conseguenze diverse, a volte con esiti davvero pregiudizievoli.

Il panorama giurisprudenziale sta pian piano iniziando ad arricchirsi offrendo interessanti spunti di riflessione in merito all’utilizzo dei sistemi di IA generativa.

La recente ordinanza del Tribunale di Pistoia in data 19 marzo 2026 costituisce una delle prime pronunce relative all’implicazione degli strumenti di IA generativa nella concorrenza sleale. La vicenda trae origine dalla pubblicazione da parte di un’azienda di contenuti marketing che facevano riferimento a testimonial e a segni distintivi di una impresa concorrente. L’azienda promuoveva quindi ricorso cautelare lamentando il compimento di plurimi atti di concorrenza sleale ex art. 2598 c.c., chiedendo l’inibitoria all’utilizzo dei riferimenti e dei segni distintivi, compresi i testimonial, riconducibili alla ricorrente, nonché la rimozione dei contenuti contestati. L’aspetto di assoluto rilievo deriva dalle difese articolate dalla parte resistente, la quale, tra le varie, ha rappresentato che “i contenuti del blog sono stati generati mediante un sistema automatico di generazione testi, basato su intelligenza artificiale, integrato nella piattaforma editoriale del sito, e che la pubblicazione è avvenuta in modo automatizzato, senza intervento umano diretto sui singoli contenuti e senza una volontà redazionale consapevole di riferirsi a soggetti specifici o di richiamare persone note per finalità commerciali”.

Il Tribunale, dopo un’attenta analisi, ha ritenuto sussistenti sia la potenzialità lesiva delle condotte contestate sia l’oggettiva commissione di atti di pubblicità ingannevole “parassitaria”, assegnando all’utilizzo dei sistemi di IA, come dedotto dalla resistente, una valenza tutt’altra che esimente. Il Giudice, infatti, ha affermato senza mezzi termini che, almeno per il momento, l’Intelligenza Artificiale “non è in grado di prendere nessuna iniziativa”, ribadendo quindi la responsabilità in capo all’utilizzatore circa gli effetti che i contenuti generati possono produrre nei confronti dei terzi.

In ambito forense, meritano attenzione alcune recenti pronunce legate all’utilizzo di sistemi di IA generativa nella redazione di atti giudiziari che abbiano comportato la citazione di giurisprudenza non pertinente o inesistente. Le sentenze, sotto diversi aspetti, devono costituire un monito per i professionisti.

Si richiama, in particolare, la sentenza TAR Lombardia n. 3348 del 21 ottobre 2025. Il Tribunale, constatata la citazione di massime non pertinenti, che si riferivano a materie del tutto diverse da quelle oggetto del giudizio, ha affermato che ‘la sottoscrizione degli atti processuali ha la funzione di attribuire la responsabilità degli esiti degli scritti difensivi al sottoscrittore indipendentemente dalla circostanza che questi li abbia redatti personalmente o avvalendosi dell’attività di propri collaboratori o di strumenti di intelligenza artificiale”, che il difensore “ha un onere di verifica e controllo dell’esito delle ricerche effettuate con i sistemi di intelligenza artificiale, possibile fonte di risultati errati comunemente qualificati come “allucinazioni da intelligenza artificiale”, che si verificano quando tali sistemi inventano risultati inesistenti ma apparentemente coerenti con il tema trattato”, evidenziando che tale condotta costituisce violazione del dovere del difensore di comportarsi in giudizio con lealtà e probità, e ha disposto la trasmissione degli atti al Consiglio dell’Ordine degli Avvocati competente per valutazioni di natura deontologica.

Sotto diverso profilo, si richiama anche la sentenza del Tribunale di Siracusa, Sezione Seconda Civile, n. 338/2026 del 20 febbraio 2026, la quale, a fronte della citazione da parte del difensore di alcune massime, corredate dai passaggi testuali virgolettati e dal numero della sentenza di riferimento, ha rilevato, dopo una meticolosa analisi e consultazione di varie fonti primarie, come le stesse non esistessero, o meglio, alcune pronunce citate esistevano, ma riportavano contenuti completamente diversi.

Ebbene il Tribunale, dopo essere giunto alla conclusione che l’unica ipotesi compatibile con la fenomenologia in questione era l’utilizzo da parte del difensore di strumenti di IA generativa senza la necessaria verifica degli output, ha affermato che “l’utilizzazione acritica di tali strumenti, senza la doverosa verifica dell’attendibilità degli output mediante consultazione delle fonti primarie (banche dati giuridiche, repertori ufficiali, CED della Corte di Cassazione), integra gli estremi della colpa grave, non potendosi più tollerare, allo stato attuale delle conoscenze tecnologiche diffuse, errori di tale natura, i quali – lungi dal costituire meri refusi o imprecisioni – aggravano significativamente l’attività del giudice e delle controparti, costretti a verificare l’attendibilità di ogni singola citazione e a controdedurre su precedenti inesistenti”.

A fronte di ciò, il Tribunale ha censurato pesantemente la condotta a titolo di colpa grave disponendo la condanna ai sensi dell’articolo 96, comma 3, c.p.c.

I casi sopra evidenziati, seppur diversi, sono accumunati da un unico fattore comune: l’assenza di un adeguato presidio da parte dell’individuo determinata dalla eccessiva la fiducia riposta nello strumento, tale da aver fatto perdere di vista il senso critico e la facoltà di discernimento insito nell’essere umano.

 

L’Importanza di un ruolo attivo: “Human in the loop”

Di fronte a questi rischi, emerge l’assoluta importanza per le organizzazioni di adottare un approccio attivo, assicurandosi di implementare strategie per mantenere il controllo sui risultati mediante policy e chiare istruzioni rivolte ai dipendenti.

Il richiedere il controllo degli output, il mantenere il senso critico, non devono essere tuttavia indicazioni di un regolamento destinato a rimanere lettera morta, ma prescrizioni puntuali fatte proprie dagli individui e oggetto di formazione specifica sull’utilizzo e i limiti dell’IA.

Il dubbio critico, la verifica delle fonti e dei risultati devono essere incentivati anziché scoraggiati dalla velocità dell’automazione, nell’ottica della cultura della vigilanza.

 

Conclusioni: la complementarità consapevole

In un mondo sempre più mediato da algoritmi e sistemi decisionali automatizzati, l’Automation Bias non rappresenta solo un errore tecnico, ma una sfida psicologica intrinseca a cui, più o meno consapevolmente, siamo tutti esposti. Se da un lato l’automazione è indispensabile per gestire la complessità moderna, dall’altro il rischio di delegare la nostra capacità di giudizio a una scatola nera digitale è quanto mai reale, e per questo, pericoloso.

Ecco perché è fondamentale mantenere un ruolo attivo e vigile, circostanza che non vuol dire rallentare il progresso, ma garantire che la decisione finale resti un atto di responsabilità, coscienza e buon senso, a servizio dell’eccellenza e dell’etica aziendale e a tutela dei diritti di tutti gli attori in gioco.