Le regole del futuro: l’etica del potere nell’era dell’intelligenza artificiale

Abstract

L’intelligenza artificiale rappresenta una tecnologia di potere in grado di incidere sull’allocazione di risorse, opportunità e diritti. La governance algoritmica assume al contempo natura giuridica, politica ed etica. Il Regolamento UE 2024/1689 (AI Act) assume un modello risk-based fondato sulla graduazione degli obblighi e sulla protezione dei diritti fondamentali, da interpretare sistematicamente con il GDPR, la Carta dei diritti fondamentali dell’UE e la Convenzione quadro del Consiglio d’Europa sull’IA. Il presente focus è sui problemi della non neutralità algoritmica, dell’accountability, della contestabilità delle decisioni automatizzate, della concentrazione del potere tecnologico e dell’impiego dell’IA nel settore pubblico. La legittimazione concreta dell’IA richiede una governance multilivello che sappia subordinare l’efficienza tecnologica ai principi di dignità, proporzionalità, responsabilità e controllo democratico.

L’intelligenza artificiale come tecnologia di potere

Ogni innovazione tecnologica modifica anche l’architettura del potere. In tal senso, l’intelligenza artificiale presenta una caratteristica peculiare: non interviene soltanto sull’esecuzione materiale delle attività, ma sulle funzioni cognitive che precedono e orientano la decisione. Classificazione, previsione, selezione e generazione di contenuti diventano processi suscettibili di automazione. Quando un sistema algoritmico viene utilizzato per selezionare candidati ad un posto di lavoro, determinare l’accesso al credito, supportare diagnosi mediche, valutare studenti, individuare anomalie o assistere decisioni amministrative, esso partecipa materialmente alla distribuzione di opportunità, risorse e svantaggi. La questione tecnologica assume quindi rilevanza costituzionale.

Il problema non consta nell’attribuzione alla macchina di una soggettività che non possiede, ma nell’individuazione dei centri di imputazione del potere esercitato attraverso di essa. Dietro ogni sistema operano soggetti che definiscono finalità, selezionano dati, progettano modelli, stabiliscono metriche, acquistano soluzioni e decidono le condizioni del loro impiego.

La governance dell’IA dovrebbe pertanto prevenire una dissociazione fra esercizio del potere e responsabilità. Quanto più la decisione è tecnicamente mediata, tanto maggiore dovrebbe essere la capacità dell’ordinamento di ricostruirne la catena decisionale.

 

Non neutralità algoritmica e accountability

L’apparente oggettività informatica costituisce uno dei principali problemi epistemologici della decisione algoritmica. Ogni modello incorpora le scelte effettuate: quali dati utilizzare, quali variabili considerare, quale funzione ottimizzare, quale soglia applicare, quale margine di errore accettare. L’algoritmo non elimina quindi il giudizio umano, ma è capace di trasferirlo dalla fase applicativa alla progettazione dell’architettura decisionale. Ciò rende centrale l’algorithmic accountability: la possibilità di identificare decisioni, responsabilità e conseguenze lungo l’intero ciclo del sistema.

Problemi emergono con particolare evidenza in riferimento ai bias. Dataset costruiti sulla base di fenomeni sociali storicamente discriminatori possono trasformare correlazioni statistiche in meccanismi di riproduzione automatizzata delle disuguaglianze. L’automazione potrebbe inoltre conferire alla discriminazione una falsa apparenza di neutralità. L’assentibilità di un sistema non può pertanto dedursi dall’accuratezza complessiva che lo caratterizza. Deve scaturire dalla qualità e rappresentatività dei dati, dalla distribuzione degli errori, dall’impatto sui gruppi interessati, dalla robustezza, dalla possibilità di supervisione e dalla disponibilità di rimedi.

Altra domanda giuridicamente rilevante non è soltanto se il sistema funzioni, ma come distribuisca il rischio dell’errore e su quali soggetti ne faccia ricadere il costo.

 

Dati, profilazione e autonomia

Il rapporto tra IA e protezione dei dati personali costituisce uno dei principali punti di intersezione tra AI Act e Regolamento UE 2016/679. Il GDPR ha introdotto un paradigma fondato, tra gli altri, sui principi di liceità, correttezza, trasparenza, limitazione della finalità, minimizzazione e accountability. L’IA rende tali principi ancora più rilevanti poiché consente di inferire informazioni ulteriori rispetto a quelle direttamente raccolte e di costruire profili predittivi mediante correlazioni difficilmente percepibili dall’interessato.

Il problema supera in tal modo la dimensione tradizionale della privacy. La profilazione algoritmica può incidere sull’autonomia personale attraverso la selezione delle informazioni visualizzate, la modulazione delle offerte, la determinazione delle opportunità accessibili e la personalizzazione dell’ambiente informativo.

Il potere algoritmico non opera necessariamente mediante coercizione: può agire attraverso l’architettura delle possibilità. Da ciò deriva la necessità di interpretare la protezione dei dati in rapporto alla dignità e all’autodeterminazione. La persona non può essere giuridicamente ridotta alla propria rappresentazione probabilistica. Il profilo algoritmico descrive una previsione; non può trasformarsi in una determinazione normativa dell’identità dell’individuo.

 

L’AI Act e il paradigma europeo del rischio

Il Regolamento UE 2024/1689 rappresenta il primo quadro normativo orizzontale dell’Unione specificamente dedicato all’intelligenza artificiale. La sua architettura è costruita secondo un modello risk-based: l’intensità degli obblighi e degli strumenti di controllo varia in funzione della capacità del sistema di produrre effetti pregiudizievoli su sicurezza, salute e diritti fondamentali. Il regolamento distingue pratiche vietate, sistemi ad alto rischio, fattispecie assoggettate a specifici obblighi di trasparenza e sistemi che non richiedono il medesimo livello di intervento regolatorio. A ciò si aggiunga la disciplina dei modelli di IA per finalità generali, rispetto ai quali il legislatore europeo ha istituito obblighi specifici, ulteriormente graduati in presenza di rischio sistemico.

La classificazione del rischio non costituisce tuttavia un procedimento puramente tecnico.

Qualificare una determinata applicazione come “ad alto rischio” significa selezionare gli interessi meritevoli di tutela e determinare la soglia di rischio socialmente accettabile. L’AI Act configura pertanto un vero diritto amministrativo del rischio tecnologico, nel quale valutazione ex ante, conformità, documentazione, monitoraggio, vigilanza e intervento ex post costituiscono componenti di un unico sistema regolatorio.

 

Il 2026 e il problema dell’enforcement

L’entrata in vigore dell’AI Act il 1° agosto 2024 non coincide con la piena operatività simultanea delle sue disposizioni. Il legislatore europeo ha previsto un’applicazione progressiva, funzionale a consentire l’adeguamento degli operatori e la costruzione dell’apparato istituzionale necessario all’enforcement.

Il 2026 costituisce quindi un passaggio cruciale: l’attenzione si sposta dalla produzione normativa alla capacità amministrativa di applicarla. È precisamente sul terreno dell’enforcement che si misura l’effettività del modello europeo. Un sistema sofisticato di obblighi può risultare inefficace in assenza di autorità dotate di competenze tecniche, capacità ispettive, risorse e coordinamento transnazionale.

La regolazione dell’IA richiede inoltre un equilibrio dinamico. Una disciplina eccessivamente prescrittiva può produrre costi di compliance sproporzionati e barriere all’ingresso; una regolazione debole può invece esternalizzare sulla collettività i costi sociali dell’innovazione. Non si tratta di scegliere tra regolazione e innovazione, ma di costruire una regolazione adattiva, tecnologicamente informata e giuridicamente prevedibile.

 

Trasparenza, spiegabilità e contestabilità

Nel diritto dell’IA la trasparenza non può essere ridotta alla mera comunicazione dell’utilizzo di un sistema algoritmico. La sua funzione deve essere parametrata all’incidenza concreta della decisione sui diritti dell’interessato. Occorre distinguere, inoltre, trasparenza, spiegabilità e contestabilità. La prima riguarda la conoscibilità dell’esistenza, delle finalità e delle caratteristiche rilevanti del sistema; la seconda concerne la possibilità di comprendere gli elementi determinanti del risultato; la terza riguarda la capacità dell’interessato di sottoporre quel risultato a verifica e ottenere un rimedio effettivo.

Non sempre è necessario rendere accessibile il codice sorgente. Segreti commerciali, proprietà intellettuale e sicurezza possono costituire interessi legittimi. Tali esigenze non possono tuttavia determinare un’area di irresponsabilità tecnologica.

Quando una decisione incide significativamente sulla sfera giuridica individuale, devono essere garantiti livelli informativi sufficienti a consentirne il controllo. La trasparenza assume così una funzione procedurale: rende possibile l’esercizio del diritto di difesa.

 

Divieti e limiti del potere tecnologico

Uno degli aspetti teoricamente più rilevanti dell’AI Act consiste nell’affermazione che alcuni impieghi dell’IA non debbano essere semplicemente regolati, ma vietati perché incompatibili con valori fondamentali dell’ordinamento europeo.

La distinzione tra sicurezza e legittimità è decisiva.

Un sistema può raggiungere elevati livelli di accuratezza e restare giuridicamente inammissibile per la natura del potere che consente di esercitare. Il diritto introduce così un limite esterno alla razionalità tecnologica: ciò che è tecnicamente possibile non è, per questa unica ragione, giuridicamente consentito.

È su questo punto che diritto ed etica convergono. Il problema non riguarda esclusivamente il corretto funzionamento dello strumento, ma la legittimità della finalità perseguita e la proporzionalità dei mezzi impiegati.

 

IA, lavoro e redistribuzione della produttività

L’intelligenza artificiale incide sul mercato del lavoro in maniera qualitativamente diversa dalle precedenti fasi dell’automazione, poiché investe attività cognitive, professionali e creative oltre alle mansioni ripetitive. La questione giuridico-politica non coincide però con la previsione quantitativa dei posti di lavoro sostituibili. Riguarda soprattutto la distribuzione dei guadagni di produttività e la ridefinizione dei rapporti di potere nell’organizzazione del lavoro.

Sistemi di algorithmic management possono intervenire nell’assegnazione dei compiti, nella misurazione della performance, nella sorveglianza e nelle decisioni relative alla carriera. L’asimmetria informativa tra datore di lavoro e lavoratore rischia così di essere rafforzata dall’asimmetria algoritmica. Formazione, partecipazione, trasparenza dei criteri decisionali e tutela contro discriminazioni automatizzate diventano quindi elementi di una nuova politica sociale dell’innovazione.

L’IA non determina autonomamente gli effetti distributivi della trasformazione. Sono istituzioni, politiche fiscali, diritto del lavoro e sistemi di welfare a stabilire come i benefici dell’aumento di produttività vengano distribuiti.

 

Pubblica amministrazione e legalità algoritmica

L’impiego dell’IA nella pubblica amministrazione presenta significative opportunità: automazione procedimentale, analisi predittiva, allocazione delle risorse, individuazione di anomalie, supporto istruttorio e personalizzazione dei servizi. Proprio perché l’amministrazione esercita poteri pubblici, tuttavia, l’innovazione deve essere sottoposta a garanzie particolarmente rigorose.

La decisione algoritmica deve restare compatibile con legalità, imparzialità, buon andamento, motivazione, trasparenza, sindacabilità e tutela giurisdizionale. L’utilizzo di un sistema automatizzato non può produrre una deresponsabilizzazione dell’amministrazione. Sono essenziali conoscibilità dell’impiego dell’IA, tracciabilità delle operazioni, qualità dei dati, supervisione umana effettiva, auditabilità, individuazione del responsabile e possibilità di contestazione.

La formula «lo ha deciso l’algoritmo» è incompatibile con un ordinamento fondato sulla responsabilità dell’esercizio del potere pubblico. L’algoritmo può costituire uno strumento dell’azione amministrativa; non può trasformarsi in un centro autonomo di imputazione del potere.

 

Intelligenza artificiale, informazione e democrazia

L’IA generativa introduce una criticità ulteriore: la produzione industriale di contenuti sintetici difficilmente distinguibili da quelli autentici.

Il problema democratico non coincide esclusivamente con la disinformazione. Una proliferazione di contenuti artificiali può determinare una crisi epistemica dello spazio pubblico, riducendo la fiducia nell’autenticità delle fonti e rendendo più difficile la formazione di un’opinione pubblica informata.

Deepfake, clonazione vocale, generazione automatizzata di propaganda e micro-targeting possono incidere sulla libertà di formazione del consenso. Gli obblighi di trasparenza relativi ai contenuti artificialmente generati o manipolati assumono quindi una funzione sistemica: proteggono non soltanto il singolo destinatario, ma l’integrità dell’ecosistema informativo. La governance dell’IA diventa così parte della tutela della democrazia costituzionale.

 

Concentrazione tecnologica e sovranità

Lo sviluppo dei sistemi di frontiera richiede capitali, capacità computazionale, dati, semiconduttori, infrastrutture cloud e competenze specialistiche. La concentrazione di tali risorse in un numero limitato di operatori produce una rilevante concentrazione di potere. L’analisi della governance dell’IA non può pertanto essere separata dal diritto della concorrenza, dalla disciplina dei mercati digitali e dalla politica industriale.

La contrapposizione ideologica tra Stato e mercato è scorretta. L’innovazione privata rappresenta un fattore essenziale dello sviluppo. Tuttavia, quando infrastrutture strategiche e modelli general-purpose assumono una funzione quasi infrastrutturale, l’ordinamento deve interrogarsi sulle condizioni di accesso, sulla dipendenza tecnologica e sulla capacità delle istituzioni pubbliche di esercitare un controllo effettivo.

La sovranità digitale non coincide con l’autarchia tecnologica. Consiste nella capacità dell’ordinamento di preservare un’autonomia normativa effettiva nei confronti dei soggetti che controllano infrastrutture essenziali.

 

Diritti fondamentali e proporzionalità

La proporzionalità rappresenta un criterio centrale per valutare la legittimità dell’impiego dell’IA. Quanto maggiore è l’incidenza potenziale su libertà, uguaglianza, dignità e non discriminazione, tanto più rigorosa deve essere la giustificazione dell’intervento.

Il principio assume particolare rilevanza nei contesti caratterizzati da asimmetrie strutturali: lavoro, credito, istruzione, sanità, sicurezza e pubblica amministrazione. L’efficienza non costituisce, da sola, una ragione sufficiente per comprimere un diritto fondamentale. Occorre verificare l’idoneità dello strumento, la sua necessità rispetto ad alternative meno invasive e la proporzionalità in senso stretto tra benefici perseguiti e sacrificio imposto.

La valutazione dell’IA deve pertanto integrare analisi tecnica e fundamental rights impact assessment (FRIA). La tutela dei diritti non può essere aggiunta ex post al sistema: deve essere incorporata nella progettazione e nell’intero ciclo di vita.

 

Governance multilivello e dimensione internazionale

La natura transnazionale dell’IA rende strutturalmente insufficiente una regolazione esclusivamente nazionale. Modelli sviluppati in una giurisdizione possono essere addestrati mediante infrastrutture situate altrove e distribuiti simultaneamente in numerosi ordinamenti. Particolare rilievo assume, accanto all’AI Act, la Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto, che colloca espressamente la governance algoritmica nel paradigma dei diritti umani.

Ne emerge un sistema multilivello nel quale interagiscono normativa dell’Unione, ordinamenti nazionali e strumenti internazionali.

La difficoltà sarà evitare due esiti opposti: frammentazione regolatoria, capace di aumentare i costi senza accrescere le tutele, e armonizzazione al ribasso, nella quale l’esigenza di convergenza internazionale determini l’indebolimento degli standard europei.

 

Dall’etica dei principi all’etica istituzionale

Il dibattito sull’IA ha prodotto numerose dichiarazioni fondate su trasparenza, equità, sicurezza, non discriminazione e centralità dell’essere umano. Tali principi sono necessari, ma non sufficienti. Un principio etico privo di meccanismi di attuazione rischia di ridursi a soft law reputazionale. La questione decisiva consiste nella sua traduzione in obblighi organizzativi, procedure verificabili e responsabilità giuridicamente imputabili.

Una governance effettiva richiede valutazioni preventive d’impatto, sistemi di gestione del rischio, documentazione tecnica, logging, monitoraggio post-market, audit, human oversight, procedure di reclamo e rimedi. Occorre, in altri termini, passare dall’etica delle intenzioni all’etica delle istituzioni.

Il rispetto dei diritti non può dipendere dalla virtù degli sviluppatori o dalla responsabilità sociale volontariamente assunta dalle imprese. Deve essere incorporato nell’architettura normativa e organizzativa entro la quale la tecnologia viene progettata, commercializzata e utilizzata.

 

La politica come governo della trasformazione tecnologica

La crescente complessità dell’IA può indurre la politica a delegare agli esperti decisioni che, pur richiedendo competenze tecniche, restano intrinsecamente normative. La distinzione deve essere netta. La scienza può descrivere capacità e limiti di un sistema; l’economia può stimarne costi e benefici; il diritto può valutarne la compatibilità con le norme; l’etica può esplicitare conflitti tra valori. Nessuna di queste competenze può però sostituire la decisione democratica sui fini collettivi.

La tecnocrazia diventa problematica quando trasforma questioni normative in problemi apparentemente neutrali di ottimizzazione.

Governare l’IA significa invece stabilire democraticamente quali obiettivi possano essere perseguiti, quali rischi siano accettabili, quali diritti non possano essere sacrificati e chi debba rispondere degli effetti prodotti. La politica non deve governare gli algoritmi entrando nel merito delle loro architetture matematiche. Deve governare il potere esercitato attraverso gli algoritmi.

 

Conclusioni. Chi scriverà le regole del futuro?

L’intelligenza artificiale impone al diritto una sfida che trascende la regolazione di una singola tecnologia. Essa riguarda la redistribuzione del potere prodotta dall’automazione delle funzioni cognitive e decisionali.

Il modello europeo offre una risposta fondata sulla combinazione tra approccio al rischio, tutela dei diritti fondamentali e responsabilizzazione degli operatori. AI Act, GDPR, Carta dei diritti fondamentali e Convenzione quadro del Consiglio d’Europa delineano, pur con differenti ambiti applicativi, un paradigma nel quale l’innovazione non costituisce uno spazio sottratto al diritto.

Cinque principi appaiono essenziali.

Centralità della persona: l’individuo deve rimanere soggetto della trasformazione tecnologica e non oggetto di classificazione algoritmica.

Accountability: l’esercizio di un potere mediato dall’IA deve essere riconducibile a soggetti identificabili, responsabili delle scelte compiute lungo il ciclo di vita del sistema.

Trasparenza e contestabilità: chi subisce conseguenze giuridicamente o socialmente significative deve poter comprendere gli elementi essenziali della decisione e accedere a rimedi effettivi.

Proporzionalità: l’incremento di efficienza non può legittimare automaticamente una compressione dei diritti.

Legittimazione democratica: le regole dell’IA non possono essere definite esclusivamente dai soggetti che possiedono tecnologia, capitale e infrastrutture.

La questione centrale non è dunque se l’intelligenza artificiale sostituirà l’essere umano, ma quali rapporti di potere verranno costruiti attraverso di essa. Le macchine possono classificare, prevedere e ottimizzare. Non possono determinare autonomamente quali valori debbano prevalere quando diritti, interessi e libertà entrano in conflitto. Questa decisione resta umana e, nelle democrazie costituzionali, deve restare politicamente responsabile. Il futuro dell’IA non sarà scritto soltanto nei laboratori o nei centri di ricerca. Sarà definito nelle istituzioni, nelle autorità di regolazione, nelle università, nelle imprese, nelle amministrazioni e nei tribunali.

La vera alternativa non è tra innovazione e regolazione, ma tra potere tecnologico governato e potere tecnologico sottratto al controllo democratico.

Se le regole saranno determinate esclusivamente dal mercato, l’efficienza tenderà a trasformarsi nel parametro dominante; se saranno affidate esclusivamente alla tecnica, ciò che è possibile rischierà di essere confuso con ciò che è legittimo; se saranno costruite esclusivamente sulla paura, l’innovazione verrà paralizzata. La funzione del diritto consiste precisamente nell’evitare queste tre riduzioni.

Governare l’intelligenza artificiale significa stabilire chi possa esercitare il potere algoritmico, secondo quali procedure, entro quali limiti e assumendosi quali responsabilità. Per questo la domanda decisiva del XXI secolo non è soltanto chi costruirà le macchine del futuro, ma chi scriverà le regole alle quali quelle macchine dovranno obbedire e nell’interesse di chi.