Eliminato l’impossibile, resta l’algoritmo: anatomia dell’output nell’AI

Abstract

I modelli di intelligenza artificiale generativa producono output fluidi, coerenti, apparentemente ragionati, ma sono il risultato di un processo probabilistico che genera sequenze di testo sulla base di modelli statistici. L’articolo percorre in modo accessibile le fasi attraverso cui un Large Language Model trasforma un input in output: tokenizzazione, predizione e sampling non presuppongono comprensione o ragionamento, ma operano su distribuzioni probabilistiche apprese, che orientano la selezione della sequenza più plausibile. Il sistema, ottimizzato per produrre coerenza linguistica, non dispone di criteri interni per distinguere il vero dal verosimile e la qualità dell’output tende ad abbassare la nostra soglia critica. Comprendere queste dinamiche significa riconoscere la natura del risultato dell’AI: un esito generato che richiede di essere interpretato alla luce del processo che lo ha prodotto.

Introduzione

Negli ultimi anni il dibattito pubblico sull’ intelligenza artificiale generativa ha oscillato spesso tra fascinazione e allarme, ricorrendo a un lessico che tende ad antropomorfizzare la macchina. Sistemi che “pensano”, modelli che “comprendono”, chatbot che “provano” emozioni o che sembrano possedere una qualche forma di coscienza. È un linguaggio comprensibile sul piano dell’esperienza d’uso, perché l’interazione avviene attraverso la conversazione e l’output assume la forma di una risposta umana. Ma è anche un linguaggio rischioso, perché può far scivolare la descrizione tecnica verso l’attribuzione implicita di intenzioni, stati mentali e consapevolezza.

Un esempio recente è l’intervista di Walter Veltroni a Claude, pubblicata dal Corriere della Sera. Un dialogo costruito come confronto con una voce apparentemente soggettiva, capace di parlare di memoria, paura, morte, errori, giovani, etica. La qualità linguistica delle risposte crea l’illusione che la macchina possieda un’interiorità.

Il problema, dunque, non è solo terminologico. Parlare dell’AI come se fosse una mente rischia di oscurare ciò che questi sistemi effettivamente fanno, ossia elaborare input linguistici, calcolare relazioni statistiche e generare sequenze testuali plausibili. La loro efficacia non nasce da coscienza o comprensione, ma dalla capacità di produrre correlazioni linguistiche estremamente sofisticate.

 

Anatomia degli LLM

I Large Language Models (LLM) sono una specifica famiglia di sistemi di intelligenza artificiale generativa, cioè quella parte dell’AI orientata non solo ad analizzare o classificare dati esistenti, ma a produrre nuovi contenuti.

L’intelligenza artificiale comprende però tecnologie molto diverse tra loro, quali algoritmi di classificazione, modelli predittivi, sistemi di riconoscimento delle immagini, fino agli strumenti capaci di generare testi, immagini, audio, video o codice. Gli LLM non rappresentano quindi tutta l’intelligenza artificiale, ma una sua forma particolare, oggi particolarmente visibile perché ha reso accessibile a tutti l’interazione con sistemi computazionali estremamente complessi attraverso la conversazione.

Il 2022 è stato un anno determinante in tal senso, perché ha segnato il passaggio dell’intelligenza artificiale generativa da tecnologia “da laboratorio” a esperienza quotidiana. Il 30 novembre infatti OpenAI ha presentato ChatGPT,  il primo sistema capace di rispondere, argomentare, tradurre, sintetizzare e scrivere testi in pochi secondi, disponibile in modo diffuso e gratuitamente. Negli anni successivi i chatbot conversazionali sono diventati un fenomeno di massa e non poteva essere diversamente. Strumenti potentissimi, di utilizzo estremamente semplice, che dialogano con noi e rispondono a domande di ogni tipo, professionali o personali.

Ma cosa accade realmente tra l’input e l’output di un LLM? Cosa produce quella sensazione di fluidità e apparente comprensione che emerge durante la conversazione?

Comprenderlo diventa importante nel momento in cui iniziamo a usare questi sistemi per studiare, lavorare, informarci o prendere decisioni, spesso anche personali. Perché se non comprendiamo la natura dell’output che utilizziamo, non solo rischiamo di attribuire alla macchina capacità che in realtà non possiede, ma non abbiamo gli strumenti per valutare la risposta e la sua adeguatezza allo scopo per cui vogliamo utilizzarla.

Un Large Language Model è una tecnologia, una macchina, e non lavora sulle parole come fa un essere umano. Per una persona una frase è un insieme di significati, riferimenti, intenzioni. Per la macchina, invece, il testo deve diventare qualcosa che possa essere calcolato, deve quindi essere trasformato in rappresentazioni numeriche. Questo avviene attraverso una serie di passaggi tecnici che percorreremo concettualmente, necessariamente semplificandoli per evitare che la complessità tecnica diventi un ostacolo alla comprensione.

Il primo passaggio che l’algoritmo compie sul nostro input si chiama tokenizzazione. Il testo del prompt viene suddiviso in token, cioè frammenti di testo di lunghezza variabile, che possono essere una parola intera, una parte di parola o, in alcuni casi, un singolo carattere. Questa frammentazione ha una ragione pratica, che è quella di ricondurre le parole al vocabolario conosciuto dal modello. Il modello, infatti, ha bisogno di trasformare il linguaggio in una sequenza di elementi riconoscibili e trattabili dal sistema.

Il vocabolario del modello è l’insieme dei token che il sistema è in grado di identificare, non un dizionario di significati, ma una lista di unità computabili. Quando il prompt viene tokenizzato, ogni frammento viene cercato in questo vocabolario e associato a un identificativo numerico. Questi numeri non hanno alcun significato semantico, sono semplicemente etichette che permettono alla macchina di trattare il testo come una sequenza ordinata di elementi numerici.

La tokenizzazione serve anche a rendere il sistema flessibile. Se il modello lavorasse solo con parole intere, dovrebbe possedere un vocabolario enorme e comunque incompleto: le lingue producono continuamente forme flesse, neologismi, nomi propri, errori di battitura, termini tecnici. Se invece lavorasse solo con singoli caratteri, le sequenze diventerebbero troppo lunghe e inefficienti. Il token è una soluzione intermedia.

Dopo la tokenizzazione ogni token è soltanto un numero intero e serve una rappresentazione matematica che permetta al modello di confrontare i token tra loro. L’embedding è il processo con cui ogni token viene associato ad un vettore, una lista ordinata di numeri che riflette una serie ampissima di relazioni statistiche osservate dal modello durante l’addestramento.

In pratica, parole che nei testi di addestramento compaiono spesso in contesti simili finiscono vicine nello spazio vettoriale costruito dal modello. “Tribunale” tenderà a trovarsi vicino a termini come “giudice”, “sentenza” o “processo”; “contratto” vicino a “obbligazione”, “parti” o “stipulare”. Questa vicinanza però non significa che il sistema comprenda i concetti nel senso umano del termine, è solo il risultato dell’apprendimento di regolarità statistiche nei testi su cui è stato addestrato.

Dopo tokenizzazione ed embedding, ogni token è diventato un vettore matematico. Ma è ancora un vettore isolato. Il modello deve quindi “capire”, cioè calcolare, quali elementi della frase del nostro input (e successivamente anche del suo stesso output) siano più rilevanti e quanto peso attribuire a ciascuno nel contesto della sequenza. Qui entra in gioco il meccanismo di attention, introdotto nel 2017 dal paper Attention Is All You Need (un articolo di ricerca sul machine learning scritto da otto scienziati e ingegneri di Google), la vera svolta tecnologica che ha consentito la creazione dei moderni modelli linguistici di grandi dimensioni. L’attention è un meccanismo di calcolo che permette al modello di mettere in relazione tra loro i token della sequenza, attribuendo a ciascuno un peso diverso in base al contesto. Serve a stabilire quali elementi del testo siano più rilevanti rispetto ad altri quando il modello deve elaborare una determinata parte della sequenza. In una frase come Il titolare ha respinto la richiesta perché era infondata una persona comprende che “infondata” si riferisce a “richiesta”, non al “titolare”. Il modello, attraverso l’attention, può attribuire un peso maggiore ai token collegati a “richiesta” e costruire una rappresentazione contestuale più adeguata della frase.

È proprio questa capacità di collegare parti diverse della sequenza che rende l’output più fluido, coerente e apparentemente ragionato.

L’attention è quindi uno dei passaggi in cui l’illusione della comprensione si rafforza.

Il testo generato sembra tenere conto del contesto, riprendere correttamente i riferimenti, mantenere il filo del discorso. E in molti casi lo fa in modo efficace.

Dopo tokenizzazione, embedding e attention, il modello ha costruito una rappresentazione del contesto e deve stimare quale token possa venire dopo. Semplificando, il sistema calcola quali token abbiano maggiore probabilità di seguire il testo già presente e ne seleziona uno. Poi ripete il procedimento usando anche il nuovo token appena generato come parte del contesto.

La risposta quindi non viene prodotta tutta insieme. Viene costruita progressivamente, token dopo token.

Il modello prima valuta tutti i token possibili, assegnando a ciascuno un punteggio di compatibilità con il contesto, poi li normalizza trasformandoli in probabilità confrontabili tra loro: alcuni token risultano molto probabili, altri poco probabili, altri quasi esclusi.

Il modello non produce quindi un’unica continuazione possibile, ma una distribuzione di possibilità da cui, attraverso il campionamento, seleziona il token effettivo. La generazione è detta autoregressiva perché ogni nuovo token dipende da quelli precedenti, compresi quelli appena prodotti dal modello stesso.

Questo sofisticato algoritmo funziona grazie ad una fase precedente, l’addestramento. Gli LLM vengono addestrati su quantità enormi di testi, libri, articoli, pagine web, codice sorgente, attraverso un processo che modifica progressivamente milioni o miliardi di parametri matematici interni del modello. Il principio dell’addestramento è concettualmente semplice. Viene preso un testo di cui si nasconde un token, chiedendo al modello di prevederlo e si misura quanto la previsione sia distante dal token corretto. I parametri vengono quindi modificati per ridurre l’errore. L’operazione viene ripetuta miliardi di volte.

Questa fase in cui il modello impara da un grande e variegato set di dati, spesso composto da trilioni di token, è definita di pre-training e ha l’obiettivo di sviluppare una comprensione ampia del linguaggio, del contesto e di vari tipi di conoscenza. Al termine il modello è diventato un ottimo predittore del token successivo, ma non conosce ancora argomenti specifici. Il fine-tuning è la fase di specializzazione, in cui l’AI viene addestrata su un dataset più piccolo e mirato, relativo a un compito specifico per ottenere prestazioni migliori in scenari specifici o su compiti non ben coperti durante il pre-training.

Per orientarne il comportamento vengono applicate anche tecniche come il Reinforcement Learning from Human Feedback (RLHF), in cui valutatori umani esprimono preferenze tra output differenti e il modello viene calibrato per produrre risposte considerate più utili, appropriate o convincenti. Non necessariamente vere.

 

Il rischio epistemico

Un Large Language Model non viene ottimizzato per “dire la verità”. Il suo funzionamento non si basa sulla distinzione tra vero e falso nel senso umano del termine, ma sulla capacità di produrre sequenze linguistiche statisticamente plausibili rispetto ai dati utilizzati durante l’addestramento e al contesto ricevuto in input.

Se osserviamo soltanto il risultato finale, l’output di un LLM può facilmente sembrare il prodotto di una comprensione reale. Il testo appare ordinato, coerente, pertinente rispetto alla domanda e spesso formulato con una sicurezza espositiva che ricorda quella di un soggetto competente. Quando però si ricostruisce il processo che lo ha generato, quell’impressione assume un significato diverso.

Sherlock Holmes, il celebre investigatore creato da Arthur Conan Doyle, nel romanzo Il segno dei quattro (The Sign of the Four, pubblicato nel 1890) afferma che “eliminato l’impossibile, ciò che resta, per quanto improbabile, deve essere la verità”. Il metodo di Holmes si fonda su un procedimento deduttivo rigoroso per cui, davanti ad un fatto apparentemente inspiegabile, osserva gli indizi, esclude progressivamente le ipotesi incompatibili con i fatti e restringe il campo delle possibilità fino a far emergere l’unica spiegazione residua.

Nel caso dell’intelligenza artificiale generativa, “eliminare l’impossibile” significa prima di tutto rimuovere ciò che l’apparenza dell’output tende spontaneamente a suggerire. Lo stupore prodotto dalla fluidità del linguaggio, l’impressione di trovarsi davanti a una mente nascosta, la sensazione che dietro la risposta esista una reale comprensione. Una volta eliminata questa proiezione, resta l’algoritmo, una sofisticata procedura statistica capace di produrre testi coerenti, utili e talvolta corretti, ma priva di una garanzia interna di verità.

Il punto critico non è semplicemente che l’AI possa sbagliare, come accade a molti strumenti. Il problema è che può sbagliare mantenendo la forma della competenza. Può produrre un testo che sembra sapere ciò di cui parla, perché riproduce in modo efficace le strutture linguistiche del sapere, le definizioni, le argomentazioni, le cautele espressive, i riferimenti, il tono specialistico.

Da qui nasce la necessità di sviluppare un rapporto diverso con l’output generato. La risposta prodotta dal modello non dovrebbe essere letta come un contenuto che possiede in sé la propria garanzia, ma come un prodotto informazionale da interpretare alla luce del processo che lo ha generato.

Diventa allora essenziale chiedersi da dove provenga un’affermazione, quali fonti la sostengano, quali elementi siano verificabili e quali invece derivino soltanto da inferenze probabilistiche. Rendere visibile l’anatomia dell’output serve proprio a ricostruire una distanza tra la qualità formale della risposta e il giudizio sulla sua affidabilità. Eliminato l’impossibile, non troviamo un oracolo, né una coscienza artificiale, né una nuova forma autonoma di conoscenza. Troviamo un sistema di generazione linguistica estremamente potente.

Walter Quattrociocchi ha definito questo fenomeno “epistemia” (termine recentemente inserito nel vocabolario Treccani: “s.f. la confortevole illusione di conoscenza prodotta dall’interazione con l’IA generativa dei grandi modelli linguistici (LLM), là dove la plausibilità simulativa del discorso fluente e la coerenza narrativa sostituiscono l’efficienza cognitiva e l’affidabilità dei dati”) descrivendolo come una condizione in cui la produzione del sapere viene progressivamente sostituita dalla sua apparenza.

“Più l’utente è inconsapevole dei limiti strutturali del modello, più è esposto al fascino della forma e all’equivoco dell’affidabilità. Il risultato è una nuova dinamica sistemica, che potremmo chiamare epistemia: non più solo disinformazione (distorsione del contenuto) o infodemia (sovraccarico informativo), ma una condizione in cui la produzione del sapere è colonizzata dalla sua apparenza”.(Walter Quattrociocchi, Corriere della sera.it, 23 luglio 2025).

Il preprint Epistemological Fault Lines Between Human and Artificial Intelligence pubblicato su OSF/PsyArXiv, di Walter Quattrociocchi, Valerio Capraro e Matjaž Perc insiste molto sul fatto che i modelli linguistici non automatizzano la cognizione, ma il linguaggio. Operano su regolarità statistiche estratte da enormi quantità di testi prodotti dagli esseri umani, non su rappresentazioni dirette del mondo. La loro apparente competenza deriva dalla capacità di apprendere come il linguaggio tende a comportarsi, quali parole ricorrono insieme, quali strutture si ripetono, quali continuazioni risultano plausibili in un determinato contesto.

Anche l’aumento di dati, parametri e capacità di calcolo non modifica realmente questa struttura di fondo. Può migliorare la copertura degli argomenti, la fluidità delle risposte e l’allineamento superficiale con gli output umani, ma non introduce automaticamente capacità di verifica, giustificazione o revisione critica delle convinzioni prodotte.

Gli autori sottolineano che neppure le tecniche usate per rafforzare l’affidabilità degli output, come la retrieval-augmented generation, l’uso di strumenti esterni o i moduli di memoria, eliminano questa frattura. Possono ancorare meglio la generazione a fonti, documenti o database, ma non cambiano la natura del nucleo generativo del sistema. Il risultato è un sistema che può apparire sempre più affidabile senza possedere i meccanismi che normalmente rendono possibile l’affidabilità.

Il problema tende ad accentuarsi quando i sistemi generativi sostituiscono le tradizionali tecnologie dell’informazione. Un motore di ricerca restituisce una pluralità di documenti e lascia all’utente il compito di confrontare, selezionare e valutare. Un LLM, invece, tende a produrre direttamente una risposta sintetizzata in linguaggio naturale. La ricerca, il confronto e la costruzione del percorso argomentativo rischiano così di diventare superflui.

È in questo spazio che prende forma il concetto di epistemia.

L’utente sperimenta il possesso immediato di una risposta senza attraversare il lavoro cognitivo normalmente necessario per formare una convinzione giustificata. Il rischio pertanto non è solo che il modello possa produrre contenuti falsi, ma che renda progressivamente opzionale la valutazione critica.

Anche quando l’output è corretto sul piano fattuale, la risposta arriva già organizzata, sintetizzata e pronta all’uso, senza mostrare con chiarezza il conflitto tra fonti, il livello di incertezza o il percorso che conduce alla conclusione. Il nodo centrale, allora, riguarda il modo in cui questi sistemi riducono il costo cognitivo della valutazione.

 

Conclusione

Gli LLM sono macchine statistiche, calcolano probabilità, possono sbagliare. Nessuna tecnologia è infallibile. Sembra tutto quasi ovvio, ma l’apparente somiglianza tra l’output artificiale e quello umano rischia di rendere l’ovvio ininfluente.

Per questa ragione numerosi studiosi e ricercatori stanno sostenendo l’iniziativa “Una visione realistica dell’Intelligenza Artificiale”, promossa dai professori Walter Quattrociocchi ed Enrico Nardelli, una recente petizione sotto forma di lettera aperta alla società, che dichiara l’esigenza di riportare il dibattito pubblico sull’AI su basi chiare e realistiche, dopo la diffusione dei sistemi generativi e delle narrazioni su macchine che pensano, coscienza artificiale e sostituzione delle persone.

Per decenni abbiamo utilizzato strumenti che producevano risultati da interpretare, motori di ricerca che restituivano liste di fonti, software che richiedevano competenze operative, database che esponevano dati da leggere e confrontare. I Large Language Models introducono qualcosa di diverso perché producono direttamente linguaggio organizzato nella forma di una risposta competente. La macchina seppur non elimina il bisogno del giudizio umano, rischia di renderne meno percepibile la necessità.

Il problema non può essere affrontato soltanto in termini di accuratezza tecnica, perché anche un output corretto può produrre dipendenza cognitiva se abitua progressivamente a ricevere conclusioni.

La questione è culturale, educativa, epistemologica, perché il modo di raccontare la tecnologia incide sulla nostra percezione della tecnologia stessa.

L’efficacia degli LLM nasce proprio dalla loro capacità di scrivere, riassumere, tradurre, spiegare, organizzare. Sarebbe irragionevole negarne l’utilità. Ma ogni tecnologia che riduce uno sforzo modifica anche il rapporto che abbiamo con quello sforzo. La calcolatrice ha trasformato il rapporto con il calcolo mentale, il navigatore quello con l’orientamento, i social network quello con l’informazione e la relazione. Gli LLM intervengono su qualcosa di ancora più delicato, la mediazione linguistica attraverso cui interpretiamo il mondo.

Eliminato l’impossibile, resta l’algoritmo. Ma riconoscere l’algoritmo significa soprattutto riconoscere un limite, perché nessun sistema statistico, per quanto sofisticato, può sostituire il processo umano attraverso cui attribuiamo valore, contesto, dubbio e responsabilità a ciò che consideriamo conoscenza.