• Avvocata e consulente, la sua expertise si colloca all'intersezione tra Diritto delle nuove tecnologie, etica digitale e governance strategica. Possiede una profonda competenza che abbraccia la protezione dei dati personali, la cybersecurity e le complesse implicazioni normative ed etiche dell'Intelligenza Artificiale. Offre analisi e soluzioni innovative a professionisti e imprese che attraversano la trasformazione digitale. Il suo approccio distintivo coniuga un rigoroso tecnicismo giuridico con una sensibilità filosofica, mirando a decodificare la complessità normativa come opportunità per costruire sistemi affidabili e modelli di business responsabili. 

Abstract

Quando il Consiglio di Amministrazione delibera sulla base di analisi, scenari e raccomandazioni prodotti da sistemi di intelligenza artificiale, il tradizionale standard di diligenza che l’art. 2392 c.c. impone agli amministratori si trova applicato a una situazione che esso non era stato concepito per governare. Il presente contributo sostiene che il dovere di agire in modo informato non si dissolve per effetto della mediazione algoritmica dell’informazione, ma si trasforma: esso richiede, in aggiunta alla valutazione del merito della delibera, una verifica critica del processo attraverso cui il sistema AI ha prodotto la raccomandazione, della qualità dei dati su cui si è fondato e dei limiti tecnici che possono averne distorto l’output. L’analisi propone un protocollo operativo articolato in quattro componenti per strutturare la governance interna delle delibere AI-assistite in modo che regga ai controlli normativi e ai giudizi di responsabilità.

La delibera AI-assistita e la sua rilevanza giuridica

Nelle sale riunioni dei consigli di amministrazione delle grandi aziende italiane, una trasformazione è in corso, silenziosa nella forma, ma radicale nelle implicazioni giuridiche. I materiali che gli amministratori ricevono prima delle sedute (analisi finanziarie, scenari di rischio, raccomandazioni strategiche, valutazioni di investimento) sono prodotti, con frequenza crescente, con il concorso sostanziale di sistemi di intelligenza artificiale. Non si tratta soltanto di automatizzazione della raccolta dati: i sistemi AI vengono impiegati per sintetizzare informazioni eterogenee, per produrre proiezioni su orizzonti temporali che l’analisi umana tradizionale non raggiunge con la stessa rapidità, per individuare correlazioni tra variabili che sfuggirebbero all’esame manuale. Il board riceve, infine, una raccomandazione, spesso formulata con la precisione e l’autorevolezza apparente che caratterizzano l’output dei modelli linguistici avanzati, e, su quella base, delibera.

La questione giuridica che questo processo pone è precisa: se la delibera si rivela dannosa, come si valuta la diligenza degli amministratori che si sono fondati su quella raccomandazione?

L’art. 2392 c.c. chiama gli amministratori a rispondere dei danni prodotti dall’inosservanza dei doveri loro imposti dalla legge e dallo statuto; tra questi doveri, la giurisprudenza ha da tempo riconosciuto quello di agire in modo informato, dovere che la riforma del 2003 ha reso esplicito nell’art. 2381, comma 6, c.c. Ma cosa significa essere informati quando l’informazione è stata prodotta da un algoritmo? E fino a che punto un amministratore può affidarsi a quella informazione senza incorrere nel rimprovero di negligenza?

 

La business judgment rule nell’era dell’AI

Il diritto societario italiano ha elaborato, soprattutto sotto l’influenza della dottrina e della giurisprudenza nordamericana, una versione domestica della business judgment rule: il giudice non sindaca nel merito le scelte gestionali degli amministratori, purché esse siano state adottate in assenza di conflitti di interesse, sulla base di informazioni adeguate e con una procedura deliberativa razionale. Questa regola di non interferenza, che trova il suo fondamento nell’inadeguatezza strutturale del giudice ex post a valutare decisioni assunte ex ante in condizioni di incertezza, ha, tuttavia, un presupposto che si tende a dare per scontato ovvero che gli amministratori abbiano effettivamente svolto un processo deliberativo e non si siano limitati a ratificare acriticamente la raccomandazione di un sistema esterno.

Si sostiene che, nell’era AI, la business judgment rule non scompare, ma si sposta poiché il suo oggetto non è soltanto il merito della decisione finale, bensì il processo attraverso cui gli amministratori hanno gestito il contributo algoritmico. Un amministratore che riceve una raccomandazione di investimento prodotta da un sistema AI e la porta in votazione senza che il CdA abbia valutato la qualità dei dati di addestramento del modello, i bias potenziali dell’architettura, i limiti dell’orizzonte temporale su cui il sistema è stato calibrato, non ha assolto al proprio dovere di agire in modo informato nel senso richiesto dall’art. 2381, comma 6, c.c.. Ha, semmai, trasferito il processo deliberativo alla macchina, conservandone soltanto la forma.

Questa tesi ha un corollario pratico immediato: la protezione che la business judgment rule offre agli amministratori dipende, nelle delibere AI-assistite, dalla capacità di documentare non solo la decisione finale, ma il processo di interrogazione critica dell’output algoritmico che la ha preceduta.

 

L’automation bias come rischio giuridicamente rilevante

Le scienze cognitive hanno documentato con abbondanza empirica il fenomeno noto come automation bias: la tendenza degli esseri umani a fidarsi eccessivamente delle indicazioni prodotte da sistemi automatizzati, attribuendo loro un’autorevolezza che non è giustificata dall’affidabilità effettiva del sistema. L’automation bias è particolarmente pronunciato quando il sistema produce output con alta fiducia apparente (percentuali precise, grafici dettagliati, linguaggio assertivo) indipendentemente dalla qualità sottostante del modello.

Nelle sedute del CdA, questo fenomeno si manifesta in forme che hanno rilevanza giuridica diretta. La raccomandazione di un sistema AI che suggerisce di procedere con un’acquisizione, corredata da proiezioni di EBITDA a cinque anni con decimali, esercita una pressione cognitiva sull’organo deliberante che la raccomandazione di un consulente umano, il quale si esprime con sfumature, incertezze, condizionali, tipicamente non raggiunge.

Se il CdA delibera in stato di automation bias, il processo decisionale che ha portato alla delibera è viziato da un fattore che gli amministratori avevano il dovere di conoscere e di neutralizzare, tanto più che la letteratura scientifica sul punto è ormai consolidata e accessibile a chiunque abbia l’obbligo di informarsi.

Il riconoscimento dell’automation bias come rischio giuridico e non soltanto come fenomeno psicologico è la premessa per costruire procedure interne che lo contrastino: la designazione di un devil’s advocate nel processo deliberativo, l’obbligo di esaminare scenari alternativi prodotti da modelli diversi o da analisti umani indipendenti, la regola che ogni raccomandazione AI sia accompagnata da una sezione esplicita sulle assunzioni del modello e sui fattori che potrebbero invalidarle.

 

L’AI come advisor interno; analogie e differenze rispetto al consulente umano

Il diritto societario conosce già la figura dell’advisor esterno: quando il CdA si avvale di una fairness opinion di una banca d’investimento o del parere di un consulente indipendente, la diligenza degli amministratori si valuta anche in relazione alla qualità dell’incarico conferito all’advisor e alla ragionevolezza dell’affidamento sulla sua opinion. Non si richiede agli amministratori di essere essi stessi esperti di finanza quantitativa; si richiede che abbiano scelto un advisor competente, formulato le domande giuste, verificato l’assenza di conflitti di interesse e che non si siano affidati ciecamente a conclusioni manifestamente irragionevoli.

Questo schema è parzialmente applicabile al sistema AI, con differenze che l’analisi non può ignorare.

L’advisor umano è un soggetto giuridico che risponde delle proprie opinioni, è assoggettato a obblighi professionali e deontologici, può essere chiamato a rispondere dei danni causati da negligenza. Il sistema AI non è nulla di tutto questo: non ha soggettività giuridica, i suoi errori non generano automaticamente responsabilità del produttore e il regime contrattuale con il fornitore esclude tipicamente qualsiasi garanzia di accuratezza per decisioni di investimento. Il rischio residua, quindi, quasi integralmente sul CdA che ha scelto di avvalersi del sistema.

Si ritiene che questa differenza strutturale imponga agli amministratori un dovere di due diligence tecnica sul sistema AI che non ha equivalente nel rapporto con l’advisor umano: prima di utilizzare un sistema AI nelle delibere consiliari, il CdA o il comitato competente dovrebbe acquisire documentazione sulle caratteristiche del modello, sui tassi di errore documentati, sui domini applicativi per cui è stato validato e sulle limitazioni esplicitamente dichiarate dal produttore.

 

Il D.Lgs. 231/2001 e l’adeguamento dei modelli organizzativi

Il D.Lgs. 231/2001 introduce nel sistema italiano un regime di responsabilità dell’ente per i reati commessi nell’interesse o a vantaggio dell’ente da soggetti in posizione apicale o da loro sottoposti. L’esimente è il modello organizzativo: se l’ente ha adottato e fatto efficacemente attuare un modello idoneo a prevenire il reato, la responsabilità non si configura.

I sistemi AI che partecipano ai processi decisionali aziendali (nella gestione dei rischi, nelle decisioni di credito, nella selezione dei fornitori, nell’identificazione di anomalie nei flussi finanziari) sono strumenti attraverso cui possono transitare, in astratto, le condotte che il D.Lgs. 231/2001 mira a prevenire. Un sistema AI che seleziona fornitori applicando criteri opachi può facilitare, senza che alcun essere umano lo voglia esplicitamente, pratiche di favoritismo; un sistema che classifica rischi di frode può essere calibrato in modo da ignorare sistematicamente segnali di allarme in determinate aree. I modelli organizzativi esistenti non contemplano questi scenari, perché sono stati progettati per governare il comportamento umano, non il funzionamento algoritmico.

Si ritiene che l’adeguamento dei modelli 231 ai processi AI-assistiti sia, allo stato attuale, un’esigenza giuridica urgente e largamente insoddisfatta nel tessuto aziendale italiano.

Le linee guida di Confindustria, aggiornate nel 2021, non affrontano il tema con la specificità che la diffusione dei sistemi AI oggi richiede; e la giurisprudenza non ha ancora prodotto pronunce che orientino le aziende sulla misura in cui i processi algoritmici debbano essere integrati nella mappatura dei rischi 231.

 

Un protocollo operativo per la governance delle delibere AI-assistite

Si propone un framework operativo articolato in quattro componenti, destinato ai CdA che intendano strutturare l’uso dei sistemi AI nelle proprie delibere in modo da preservare la protezione della business judgment rule e documentare l’adempimento del dovere di agire in modo informato.

Qualificazione del sistema AI. Prima di impiegare un sistema AI in un processo deliberativo consiliare, il CdA o il comitato competente dovrebbe formalizzare la qualificazione del sistema: documentare il tipo di modello, il dominio applicativo per cui è stato validato, il produttore, i termini contrattuali rilevanti e le limitazioni dichiarate. Questa qualificazione non è un adempimento burocratico; è la condizione per valutare, in caso di contestazione successiva, se l’affidamento sul sistema era ragionevole.

Protocollo di interrogazione critica. Ogni delibera che faccia uso sostanziale di output AI dovrebbe essere accompagnata da un verbale che documenti le domande poste al sistema, le assunzioni verificate, gli scenari alternativi considerati e i limiti del modello esaminati. Il verbale serve a dimostrare che il CdA ha esercitato un giudizio critico sull’output algoritmico, anziché recepirlo passivamente.

Supervisione umana formalizzata. Per le delibere di maggiore rilevanza (acquisizioni, dismissioni, operazioni straordinarie, decisioni che incidono su materie coperte dalla disciplina 231) il framework dovrebbe prevedere la designazione di un soggetto qualificato, interno o esterno, con il compito esplicito di verificare criticamente la raccomandazione AI prima che essa sia sottoposta al CdA. Questo soggetto non deve essere necessariamente un esperto di AI; deve essere in grado di valutare la coerenza della raccomandazione con le informazioni disponibili da fonti indipendenti.

Tracciabilità dell’output. Gli output AI utilizzati nelle delibere consiliari devono essere conservati, nella versione esatta in cui sono stati prodotti, per il periodo previsto dalla disciplina sulla conservazione dei documenti societari. La possibilità di ricostruire ex post l’informazione su cui si è fondata la delibera è la condizione minima per una difesa efficace in caso di contestazione giudiziale.

 

Conclusioni

La responsabilità degli amministratori nell’era delle decisioni AI-assistite non è una questione futura. È una questione presente, che i giudici chiamati a valutare delibere consiliari adottate negli ultimi anni si troveranno ad affrontare con strumenti normativi e concettuali che non erano stati progettati per questo. Il compito del giurista e, prima ancora, del consulente legale delle imprese, è costruire oggi i framework che consentano agli amministratori di esercitare il loro mandato con la diligenza che la legge richiede, usando gli strumenti AI che il mercato offre senza consegnare a questi strumenti la responsabilità che la legge riserva agli esseri umani.

Il confine tra l’amministratore che si avvale di uno strumento AI e quello che delega a uno strumento AI non è sempre nitido nella pratica; ma è giuridicamente decisivo. Tracciarlo, con precisione e con metodo, è la funzione che il diritto societario è oggi chiamato ad assolvere.

Indice

PAROLE CHIAVE: art. 2392 c.c. / Automation Bias / business judgment rule / D.Lgs. 231/2001 / delibera consiliare / diligenza qualificata. / governance AI / intelligenza artificiale / responsabilità degli amministratori

Condividi questo contenuto su

Tutti i contenuti presenti in questa rivista sono riservati. La riproduzione è vietata salvo esplicita richiesta e approvazione da parte dell’editore Digitalaw Srl.
Le foto sono di proprietà di Marcello Moscara e sono coperte dal diritto d’autore.