“Cadrà dolce la pioggia”: lo slop AI erode la memoria umana

Abstract

Una datata teoria del complotto, la Dead Internet Theory, vuole Internet ormai uno spazio vuoto popolato da bot. Il progresso delle AI, in grado di creare contenuti artificiali diffusi da account artificiali, sulle ali di interazioni artificiali, si avvicina pericolosamente ad avverare questa distopia. In una Rete che non dimentica, o meglio lo fa coi ritmi della macchina e non dell’umano, in un presente in cui lo “slop”, i contenuti massivi creati con AI a basso costo sono sempre più difficili da riconoscere per l’uomo comune, chi potrà garantire che l’archivista e lo storico del futuro possano preservare l’incorrotta memoria degli eventi passati?

Introduzione

“Né albero né uccello, nessuno baderà alla stirpe degli uomini derelitta e morente. Anche la Primavera, sorgendo a nuova vita, appena noterà la nostra dipartita.”: questo è lo scenario descritto dalla poetessa Sara Teasdale nel suo poema “Cadrà dolce la pioggia” (tradotto come Dolce verrà la pioggia in Gli amorosi incanti, trad. di S. Raffo, Crocetti Editore, Milano 2010), citato testualmente nell’omonimo racconto di Ray Bradbury in Cronache Marziane. Romanzo di fantascienza questo sospeso tra il distopico e l’ucronico in cui viene descritta la colonizzazione di Marte da parte degli esseri umani e il suo frettoloso abbandono da parte degli stessi per partecipare ad un conflitto atomico sulla Terra.

Nel racconto in questione, ambientato nel 4 Agosto del 2057, viene descritta una dimora domotica avanzata dove i servitori robot continuano a prendersi cura di una casa deserta, da tempo abbandonata, incapaci di comprendere l’abbandono di campo della specie umana.

Nel 2021 un anonimo chiamato IlluminatiPirate verga una teoria chiamata Teoria dell’Internet Morta, evoluzione suprema e allucinata dell’antico adagio per cui “Su Internet puoi essere chiunque, anche un cane parlante” secondo cui in realtà nessuno esiste su Internet, tranne pochi utenti e una serie di bot e falsi account creati dai “Poteri Forti”. Una teoria allucinata, come tutte le follie provenienti da 4chan, bizzarro incrocio postmoderno tra l’universo “nerd” e le teorie alt-right più scalcinate.

Nella sua allucinata follia postmoderna a base di suggestioni del mondo anime e dei videogames (IlluminatiPirate paragonava la sua teoria alla serie animata Psychopass e alla saga di Metal Gear Solid, ambientate in futuri distopici di controllo tecnologico), il nostro complottista non poteva prevedere che anche grazie ai suoi sodali una parte di quella teoria si sarebbe avverata.

 

Umano ti presento il non-umano: dal bestiario medioevale al bestiario digitale

Si faccia ora un passo indietro: i bestiari medioevali erano ricolmi di incontri mai avvenuti e creature mai incontrate, ricostruite da tracce storiche dell’antichità grecoromana. Teocrito ed Eratostene avevano descritto i Blemmi, popolazioni acefale con viso, occhi e bocche sul corpo, ed essi comparvero nei testi di Isidoro di Siviglia (VII secolo), Sir John Mandeville (1371) e persino nel romanzo Baudolino di Umberto Eco e nella saga videoludica di Pokémon sotto le sembianze del “mostro tascabile” Hitmonlee, campione di arti marziali, seguito da creature come l’Anfisbena, il Basilisco e l’Ippogrifo.

Animali Fantastici, creati da penne remote del tempo e sopravvissuti in un’epoca dove la ricerca storica era ancora un atto di fede per diventare “reali”, provati dall’autorevolezza di penne come Teocrito, Erodoto e Plinio il Vecchio.

L’Erodoto di oggi non ha bisogno di esistere per creare, ma solo di essere uno strumento nelle mani di un “metaErodoto”, alimentato dal desiderio dei nuovi “mercanti di dati” (descritti proprio su queste pagine, nel numero precedente) di creare realtà e ricordi alternativi per smuovere coscienze, creare consensi o, semplicemente, fomentare la viralità.

Si tratta dello slop: un allucinato bestiario “di foto vere” (o meglio, riconoscibili come tali a meno che di un momento di riflessione), spesso sostenute da mezzi di generazione con IA in grado di donarci reperti come grotteschi santini del Presidente USA Donald Trump che salva cani e gatti dagli immigrati, bizzarre opere d’arte create da “ragazzini in cerca di like”, ma anche un vero e proprio bestiario 2.0, il Brainrot.

Un “mondo dentro il mondo”, un dominio insostenibile della falsità ben occultato nel dominio sostenibile dell’autenticità popolato dai nuovi Blemmi e Sciapodi, entità come lo squalo tripode Tralalero Tralalà, Bombardiro Coccodrillo e Bandito Bobritto, animali artificiali creati con IA eroi di storie “spaccacervello” stupidamente virali, o storie “da buoni sentimenti” come “Tiberio il cane del Santo Padre” (venuto a mancare durante la stesura di questo testo). Create da AI, diffuse da AI, condivise e “votate” da bot.

L’allucinata fantasia del non umano si inchina al desiderio di viralità dell’umano con un evidente effetto collaterale: confondere lo storico del futuro e contribuire ad una riscrittura della storia a misura di eventi mai avvenuti, brainrot e confabulazioni allucinatorie.

 

Dalla triade CIA a Orwell passando per Yoda

Attenzione: nessuno sta insinuando che le IA abbiano creato questo clima di falsificazione: ma semplicemente lo rendono più facile da ottenere ed esteso per quantità ancora prima che per qualità. Nel 2013 un mero errore clericale ad esempio mandò sui libri di storia dell’Arabia Saudita un bizzarro incontro tra Yoda e Re Faisal, destinato ad essere immortalato nella storia del meme.

Ma oggi l’arrivo di sistemi di creazione non-umani consente di riempire interi bestiari, riscrivere eventi della storia non più passata ma recente in modo creativo, e danneggiare la capacità di archivio connaturata ad una Internet che non solo ha perso la sua capacità di “non dimenticare”, ma ormai confabula e straparla con mille voci confuse e disgiunte che sempre meno hanno di umano.

Siamo non alla teoria originale dell’Internet Morta, ma al tracollo del concetto di Internet come “moderno archivio del sapere umano”, perché una fake news e un brainrot alla volta le caratteristiche che rendono un archivio tale sono ormai oltre il limite, se non del tutto perse.

Si tratta della Triade CIA (riservatezza, integrità e sicurezza), dove l’integrità è ormai sotto attacco. Secondo il Pew Research Institute il 38% dei siti internet (e le informazioni in essi custodite) dal 2013 sono persi, e almeno il 23% delle pagine relative a testate online hanno ormai buchi nella bibliografia.

Contemporaneamente portali come IDMO e la massiccia presenza di siti di fact checking (in Italia Bufale.net, BUTAC, Open Fact Checking e Facta per esempio) confermano che per ogni informazione persa su base quotidiana le stesse vengono sostituite da informazioni spurie, senza modo per un ipotetico “archeologo del futuro” di districarsi agevolmente in un archivio della conoscenza umana il cui livello di attendibilità è tornato al tempo dei Blemmi e delle Manticore.

Si tratta anche qui di una teoria nata su Internet e per Internet, il Teorema di Brandolini o Asimmetria delle sciocchezze: per ogni contenuto legittimo che scompare, decine o centinaia prendono il loro posto. Se l’”ordine di scuderia” dei Doppelganger prevede di manipolare pagine di Wikipedia sulla storia Ucraina, come la strage di Odessa del 2014, contemporaneamente esso viene sostituito da video generati con AI per mostrare loghi di testate occidentali e storie di Ucraini che mangiano pesci negli acquari occidentali e Zelensky che scorrazza felice per le strade di Seattle “sull’auto di Hitler” con altri magnati come Bill Gates e Bezos. Menzione interessante quest’ultima: in un mondo di fonti perse, la fonte “ritrovata” è un falso articolo di giornale pubblicato su una falsa testata “scritta al 41,98% con ChatGPT” e diffuso, nello stile “doppelganger”, da bot potenziati dall’IA per raggiungere la massima visibilità.

Sia pur con una ovvia guida umana, la IA si dimostra veloce, pervasiva e penetrante, erodendo l’integrità della “nuova biblioteca di Alessandria”, trasformata in un pagliaio dove trovare e riconoscere i pochi aghi rimasti prima della loro dissoluzione diventa sempre più difficile.

Possiamo quindi arrivare al passaggio successivo.

 

L’Armata dei Capitani Ogilvy

In un celebre passaggio del romanzo 1984 il protagonista, Winston, impiegato del Minver decide di inventare una vita dal nulla: il Compagno Ogilvy, in tempo per apparire tra gli scritti pubblici riscritti e la memoria rielaborata. Ogilvy è un personaggio descritto con un tono pedante e vezzoso al tempo stesso: a tre anni pronto a baloccarsi con una pistola, a nove comandante di un intero plotone, delatore a undici, inventore a diciannove, Eroe di Guerra e Martire a 23, celibe e astemio, mai premiato solo per la fatica di dover inventare oltre alla sua esistenza i premi.

Fatica che il mondo 2.0 dell’”Internet non-Morta” risparmia: uno dei compagni Ogilvy di oggi è Vladimir Bondarenko, audace e bellissimo ingegnere aeronautico che nel 2022, in pieno conflitto Ucraino, scopre non solo di esistere (sottoforma di qualche testo in AI e di una foto della pagina Thispersondoesnotexist, dedita a creare visi in AI ora sorpassati dall’abilità di sistemi come Imagen e Flux), ma di amare Putin e servire il suo gotha come implacabile cantore delle sue gesta con una storia non dissimile da quella di Ogilvy, in cui, privato del suo sogno di creare aerei dall’Ucraina, si ricicla come giornalista.

Anche Bondarenko (il cui nome, peraltro, è rubato a quello di un attore) ha una sua controparte ancora più incredibile, Irina Kerimova, insegnante di chitarra porta a porta alla Phoebe Buffay in giovinezza, carriera sfolgorante nell’agitprop separatista, anche ella “nata ieri”.

Ma esulando dalla propaganda di guerra, il copione di Winston si incarna anche in personaggi come Tom e Jack, gemelli abbandonati dalla madre nell’America del crollo economico degli anni ’50, protagonisti di una storia “scritta all’88% dall’intelligenza artificiale” secondo Smodin e incarnati in foto create al 100% della stessa, oppure in improbabili epigone della Joi di Blade Runner 2049, bot in grado di iscriversi a canali Telegram e interagire (stentatamente) per rivendere i loro deepfake.

Abbiamo quindi ora storie che non esistono, pubblicate da persone/bot che non esistono (e in grado di interagire a insulti e oltraggi con chi esiste), che portano in vita persone mai esistite e riscrivono il passato col futuro, strumenti incoscienti  di “cervelli pensanti, rigorosamente anonimi, che coordinavano il tutto e fissavano le linee politiche che impedivano di preservare, falsificare o distruggere un determinato frammento del passato” (1984, George Orwell, Trad. di Stefano Manferlotti).

Ma anche persone esistenti che si scoprono sostituite da scomodi doppelganger, come Scarlett Johansson, attrice e cantante attenta ad una legislazione sul controllo dell’uso delle AI dopo essersi ritrovata “duplicata” in una versione ipersessualizata della sua stessa voce ottenuta combinando un casting per una attrice dalla voce simile alle sua con l’uso di ChatGPT e protagonista di un video deepfake arrivato a sua insaputa fino al Superbowl, vero e proprio rito pagano dell’America attuale che la contrapponeva a Kanye West.

 

Anche la Primavera, sorgendo a nuova vita, appena noterà la nostra dipartita

Si ponga il lettore nei panni dell’archivista del futuro, quando questa civiltà sarà lontana come l’antichità classica di Erodoto, costretto a districarsi nella più grande Biblioteca del Mondo popolata da Amanuensi 2.0, creature virtuali sopravvissute ai loro gestori, a dover comprendere cosa sia un Bombardiro Coccodrillo, capire quale delle due foto del funerale del Papa sia vera tra quella distribuita da ANSA e il suo doppelganger creato da Imagen e chiedersi se sia mai esistito al suo fianco il cane Tiberio.

Come noi, avrà strumenti: Sightengine o wasitai per le immagini, Resemble.ai per audiovideo deepfake e Smodin e ZeroGPT per i testi. Ma come noi, avrà problemi nell’usarlo: SightEngine si dimostra efficace su una foto di buona qualità, ma perde efficacia se l’immagine perde risoluzione a causa di passaggi mediante cattura schermo e ricarica su diversi social a qualità denaturata.

Il Teorema di Brandolini comporterà che nel futuro vi saranno più fonti “doppelganger” sopravvissute che fonti verificate, o anche solo umane nel contenuto. Senza un intervento attuale, il lascito del presente al futuro sarà un bestiario 2.0, una pioggia virtuale di brainrot e slop, un universo di informazioni così ricco di dati da essere difficile da navigare, ma ricolmo di dati così degradati da essere, di fatto, imperscrutabile e confuso come una galleria di orrori, miniature e leggende ormai passate alla storia.

Se è possibile presumere che mistificazioni più grossolane non sfuggiranno al setaccio della storia, non è improbabile che ogni fake news “powered by AI” che oggi riesce a influenzare l’informazione e le coscienze con la forza pervasiva del “mi sembra vero” si traduca nel futuro in una fonte corrotta e illeggibile entrata negli annali della storia spodestando una fonte legittima ma cancellata prematuramente dal tempo.

Del resto, in un presente in cui il Presidente degli USA crede in una foto alterata di Abrego Garcia, non è peregrino parlare di un futuro in cui il passato diventerà un gioco a scelta libera frutto di un archivio storico completamente corrotto e degradato.

Il “Dominio delle Macchine” non arriverà quindi con la forza militare di Skynet, oppure “con uno stivale che calpesta un volto umano, per l’eternità”, ma con la sneaker del coccodrillo Tralalero Tralalà, una foto di Trump che salva cani e gatti dai migranti e due set difformi di foto del funerale di Papa Francesco e storici confusi dall’imprevedibile impossibilità di dare alle tre cose lo stesso grado di veridicità.

Una forma di prevenzione può arrivare dall’implementazione obbligatoria di forme di watermarking, e il dono agli archivisti del futuro di modalità di riconoscibilità integrate nei prodotti delle “AI Amanuensi”, indipendenti da una ricerca archeologica già adesso spesso malagevole e ostativa, in grado di sopravvivere alla memoria storica e ripristinare la coerenza, e purezza, perdute.