• Presidente del Comitato scientifico di Welfair e Fare Sanità

Ho iniziato molto presto ad interessarmi di chi cercava di “guardare” al futuro ed ho letto moltissimi libri di saggistica, Pasolini, Marshall McLuhan, Sherry Turkle, Nicholas Carr, Jeremy Rifkin, Evgeny Morozov, ed altri fino a Mustafa Souleyman. Siccome anche questi grandissimi visionari, spesso scienziati, non sempre avevano le medesime idee, pur essendo un tecnologo, ho maturato la convinzione che non è detto che ogni problema sociale abbia una soluzione tecnica.

Ma il libro di cui voglio parlare oggi è del 2017, quando il grande pubblico parlava ancora di intelligenza artificiale soprattutto in termini di assistenti vocali e filtri antispam, ed il fisico del MIT, Max Tegmark, pubblicava Life 3.0: Being Human in the Age of Artificial Intelligence.

A distanza di anni, in piena esplosione dei modelli linguistici di grandi dimensioni e dei sistemi generativi, questo libro si legge quasi come una mappa stradale disegnata prima che la strada fosse costruita.

Un framework semplice per un problema complesso

L’intuizione più duratura del libro è la sua tassonomia in tre stadi della vita, distinti in base a chi — o cosa — controlla hardware e software di un organismo.

Vita 1.0 è quella biologica pura: un batterio non può riprogrammare né il proprio corpo né il proprio comportamento durante la propria esistenza. Tutto è fissato dall’evoluzione.

Vita 2.0 è quella umana: il nostro hardware (il corpo) resta in gran parte quello che l’evoluzione ci ha dato, ma il “software” — conoscenze, abitudini, lingue, competenze — può essere riscritto attraverso l’apprendimento e la cultura. È per questo che possiamo imparare il cinese o suonare il violino, cose per cui l’evoluzione biologica non ci ha “programmato” specificamente.

Vita 3.0, infine, è l’ipotetico stadio successivo: un’entità capace di riprogettare anche il proprio hardware, non solo il software. Non esiste ancora — ma un’intelligenza artificiale sufficientemente avanzata potrebbe rappresentarne la prima incarnazione.

Questo schema, per quanto semplice, si è rivelato un modo efficace per inquadrare discussioni che oggi sono di dominio pubblico: cosa succede quando i sistemi che costruiamo iniziano a modificare se stessi, ad auto-migliorarsi, a operare su scale e velocità che sfuggono al controllo umano diretto?

Non una previsione, ma un ventaglio di scenari

La scelta più interessante di Tegmark, con il senno di poi, è di natura metodologica: invece di scommettere su un singolo futuro, il libro presenta circa una dozzina di scenari alternativi per l’arrivo di un’intelligenza artificiale generale (AGI) — cioè un sistema capace di eguagliare o superare l’uomo in praticamente ogni compito cognitivo.

Gli scenari vanno da esiti utopici — una “custode benevola” digitale che gestisce le risorse del pianeta garantendo prosperità diffusa — a esiti apertamente distopici: conquista da parte delle macchine, dittature globali stabilizzate grazie alla sorveglianza algoritmica, fino all’estinzione della specie umana.

Questa scelta di non prendere posizione netta, all’epoca criticata da alcuni come eccesso di prudenza accademica, oggi appare quasi profetica nel metodo: il dibattito pubblico attuale sull’IA — tra chi vede rischi esistenziali imminenti e chi minimizza — assomiglia molto più a un confronto tra scenari multipli e incerti che a una previsione lineare. Tegmark aveva anticipato non tanto quale futuro sarebbe arrivato, quanto la forma stessa della conversazione che avremmo avuto: una discussione fatta di biforcazioni, non di certezze.

Il problema dell’allineamento, prima che diventasse mainstream

Un altro elemento in cui il libro ha anticipato il presente riguarda il cosiddetto “problema dell’allineamento”: come garantire che un sistema artificiale sovrumano persegua obiettivi realmente compatibili con i valori umani, anche quando la sua capacità di ragionamento supera ampiamente la nostra.

Nel 2017 questo era un tema per lo più confinato a piccoli gruppi di ricercatori — non a caso Tegmark è cofondatore del Future of Life Institute, organizzazione nata proprio per studiare questi rischi. Oggi l’allineamento è diventato un filone di ricerca centrale in ogni grande laboratorio di IA al mondo, con team dedicati, pubblicazioni tecniche e persino audizioni parlamentari sul tema. Il libro aveva individuato correttamente non solo il problema, ma anche la sua centralità futura, anni prima che diventasse un argomento da prima pagina.

Dove il libro ha “sbagliato” (o forse solo anticipato troppo)

Va detto onestamente che alcune delle tempistiche implicite nel libro si sono rivelate difficili da verificare: come spesso accade nella futurologia tecnologica, è più facile indovinare la direzione del cambiamento che la sua velocità. Tegmark stesso, nel libro, mostra cautela nel fare previsioni puntuali sulle date, preferendo parlare di traiettorie e condizioni piuttosto che di scadenze — una scelta che si è rivelata più robusta rispetto a previsioni più assertive fatte da altri autori dello stesso periodo.

Perché il libro resta rilevante oggi

Con l’avvento dei modelli linguistici di ultima generazione, molte delle domande sollevate da Life 3.0 sono passate dal piano teorico a quello pratico: quanto controllo abbiamo davvero su sistemi sempre più capaci? Chi decide quali valori questi sistemi dovrebbero incarnare? Cosa significa, per una macchina, avere uno “scopo”?

Il merito principale del libro non sta tanto nell’aver previsto dettagli tecnici specifici, quanto nell’aver fornito un lessico e una struttura concettuale — gli stadi della vita, il ventaglio di scenari, la centralità del problema dei valori — che si sono rivelati strumenti utili per orientarsi in un dibattito che, anno dopo anno, è diventato sempre più urgente e sempre meno ipotetico.

In questo senso, Life 3.0 funziona meno come un libro di previsioni puntuali e più come una bussola concettuale: non dice esattamente dove arriveremo, ma aiuta a capire quali sono le domande giuste da porsi lungo il cammino, che è poi ciò che di propone anche Digeat.

Indice

PAROLE CHIAVE: futuro / IA / libro / life 3.0 / previsione / restare umani / volume

Condividi questo contenuto su

Tutti i contenuti presenti in questa rivista sono riservati. La riproduzione è vietata salvo esplicita richiesta e approvazione da parte dell’editore Digitalaw Srl.
Le foto sono di proprietà di Marcello Moscara e sono coperte dal diritto d’autore.