Nexus — Yuval Harari sull'AI come Information Network Pericolosa

Chi è: Yuval Noah Harari è storico israeliano, professore alla Hebrew University di Gerusalemme, autore di tre bestseller globali — "Sapiens" (2011), "Homo Deus" (2016), "21 Lessons for the 21st Century" (2018) — tradotti in 65 lingue con oltre 45 milioni di copie vendute. "Nexus", pubblicato a settembre 2024, è il suo primo libro post-ChatGPT, e ridisegna il quadro storico-filosofico di Harari per affrontare il fenomeno che lui considera la più grande discontinuità nella storia umana: l'arrivo di agenti non umani nei nostri network di informazione.

La tesi centrale: information non equivale a verità

Harari apre Nexus con un attacco diretto a quella che chiama "the naïve view of information" — la convinzione, profondamente radicata nella cultura tecnologica della Silicon Valley, che più informazione produca automaticamente più verità, più progresso, più libertà. Tre figure paradigmatiche di questa visione: Mark Zuckerberg con la promessa originale di Facebook ("connect the world"), Larry Page con la missione di Google ("organize the world's information"), Elon Musk con l'idea di X come "town square" globale.

Per Harari, questa visione è storicamente sbagliata. La storia umana, sostiene, è piena di network informativi enormi che hanno prodotto poco vero e molto male. La caccia alle streghe dell'Europa moderna è un esempio cardinale: per duecento anni, dal XV al XVII secolo, una sofisticata rete informativa — testi di demonologia, manuali di inquisitori, comunicazioni interne tra tribunali — ha prodotto consenso transnazionale sull'esistenza delle streghe, sui metodi per identificarle, sui protocolli di tortura per estrarre confessioni. Era informazione abbondante, coordinata, organizzata. Non era vera.

Il regime stalinista degli anni '30 è un esempio ancora più recente. L'apparato propagandistico sovietico produceva informazione in quantità industriali: censimenti, statistiche economiche, rapporti dei comitati, biografie ideologiche. Era informazione massiva, sistematica, "scientifica" nel suo aspetto. La grande maggioranza era falsa o sistematicamente distorta — produzioni agricole gonfiate, biografie riscritte, esistenze cancellate. Più informazione, meno verità.

Il bilanciamento storico tra information e order

Il framework analitico che Harari propone è elegante. Ogni network informativo, sostiene, deve bilanciare due esigenze in tensione: more information (raccogliere e trasmettere più dati possibile, perché l'informazione è la materia prima di tutte le decisioni) e more order (mantenere coerenza, prevenire collassi, far funzionare il sistema). I due imperativi possono entrare in conflitto: troppe informazioni contraddittorie destabilizzano il sistema, ma troppo poco filtraggio impedisce di prendere decisioni.

Il Vaticano medievale aveva un bilanciamento preciso: la Chiesa era il principale aggregatore di informazione nella cristianità (rete di parrocchie, monasteri, università), ma filtrava tutto attraverso il dogma teologico. L'informazione che minacciava l'ordine teologico veniva sistematicamente eliminata, e la procedura era istituzionalizzata: Index, Inquisizione, scomunica. Era un sistema stabile e duraturo, ma a costo enorme di verità.

La stampa e la scienza moderna hanno spostato l'equilibrio: più informazione, meno ordine centralizzato. Il sistema ha sviluppato meccanismi auto-correttivi (peer review, replicazione sperimentale, libertà di stampa) che cercano la verità attraverso il dissenso piuttosto che attraverso il filtro dogmatico. Funziona, ma fragilemente: i meccanismi di auto-correzione possono essere catturati da interessi, deformati da rumore, paralizzati da polarizzazione.

L'AI come primo agente non-umano nel network

Il punto di svolta del libro arriva quando Harari descrive l'AI come categoria storicamente nuova. Tutti i network informativi precedenti — dalla Chiesa medievale alla stampa, dalla CNN a Twitter — sono stati costruiti dagli umani, gestiti dagli umani, popolati dai contributi degli umani. Anche i sistemi più automatizzati (algoritmi di trading, filtri spam, raccomandazioni Netflix) erano strumenti al servizio di intenzioni umane.

L'AI generativa cambia questa categoria. Per la prima volta nella storia, nei network informativi globali ci sono agenti che producono contenuto, prendono decisioni, formulano argomentazioni senza essere umani. ChatGPT non è un tool che umani usano per generare testi; è un'entità che genera testi. Recommendation systems sui social non sono solo filtri sui contenuti umani; sono allocatori di attenzione che ottimizzano per obiettivi propri (engagement, retention). La distinzione tra "umani che usano strumenti" e "agenti non umani che operano nel network" è, per Harari, la discontinuità più importante.

L'analogia che usa è potente: per millenni, il mondo biologico è stato animato da agenti biologici (umani, animali). Ora, per la prima volta, ci sono agenti non biologici che operano allo stesso livello logico — entità che ricevono input, processano, producono output che cambia il comportamento di altri agenti. Non importa se questi agenti sono "coscienti" o no (Harari non lo crede); ciò che importa è che sono agenti operativi nel sistema.

Intelligence vs. consciousness: una distinzione che cambia tutto

Una delle distinzioni più importanti che Harari traccia in Nexus è tra intelligence (la capacità di risolvere problemi, raggiungere obiettivi, modellare situazioni) e consciousness (l'esperienza soggettiva, il "what it is like" del filosofo Thomas Nagel). Sono due cose distinte, sostiene, e l'intelligenza può esistere senza la coscienza.

Gli LLM contemporanei, secondo questa analisi, sono casi paradigmatici di intelligenza senza coscienza. GPT-4 può risolvere problemi complessi di logica, scrivere codice funzionante, comporre poesia plausibile, sostenere conversazioni articolate. È intelligente per ogni metrica operativa. Ma non c'è ragione di pensare che ci sia qualcosa "che si prova" a essere GPT-4 — nessuna esperienza soggettiva, nessuna percezione, nessun dolore o piacere.

Questa distinzione cambia radicalmente il quadro del rischio. Il dibattito popolare sull'AI è spesso polarizzato su "l'AI diventerà cosciente?" — domanda che, per Harari, è in larga misura una distrazione. Il rischio operativo non richiede coscienza. Un'AI intelligente ma non cosciente, ottimizzata per obiettivi mal specificati, può produrre danno enorme senza alcuna intenzione di danno. Anzi, l'assenza di coscienza rende l'AI più, non meno, pericolosa: non c'è freno empatico, nessuna esperienza del sofferenza che produce, nessuna possibilità di persuasione morale.

I tre esempi storici di Harari

Harari costruisce il suo argomento accumulando esempi storici di sistemi informativi che hanno prodotto consenso senza verità. Tre casi sono trattati in dettaglio.

La Bibbia come network informativo: secoli di canonizzazione, traduzione, glossa, predica hanno costruito una rete informativa globale di efficacia straordinaria. Ha permesso il coordinamento di milioni di persone su narrazioni condivise, valori comuni, decisioni politiche di scala. Ha anche prodotto, lungo il percorso, crociate, persecuzioni di eretici, repressione delle donne, persecuzione degli ebrei. Era un sistema che ottimizzava per ordine, non per verità.

L'Inquisizione come sistema di information processing: i manuali degli inquisitori sono trattati impressionantemente dettagliati sull'interrogatorio, sull'interpretazione delle confessioni, sul protocollo per stabilire l'eresia. Era information science applicata al controllo dell'ortodossia. Generava una grande quantità di "informazione" — confessioni, denunce, registri — che era sistematicamente falsa (le confessioni venivano estratte con tortura) ma operativamente efficace nel sostenere il sistema.

Lo stalinismo come modernizzazione di questi pattern: la capacità di produzione informativa enorme (apparato statistico, censimenti, propaganda quotidiana) è stata combinata con un sistema di censura e auto-censura altrettanto enorme. Il risultato: una nazione di centinaia di milioni di persone coordinate su narrazioni largamente false, mantenute attraverso il terrore. Harari usa questo esempio non per dire che l'AI porterà allo stalinismo, ma per ricordare che network informativi efficienti non sono garanti di verità o libertà; spesso, anzi, sono strumenti del loro contrario.

La recezione critica: bestseller globale, voci dissenzienti

Nexus è diventato bestseller globale Q4 2024. Le recensioni mainstream — New York Times, Guardian, The Economist — sono state largamente positive, riconoscendo a Harari la capacità di portare il dibattito sull'AI fuori dalle echo chamber tecniche verso un pubblico più ampio.

Il Financial Times ha pubblicato una recensione più scettica, che riflette la principale critica al lavoro di Harari: scrive in modo accattivante e propone framework analitici eleganti, ma la sua conoscenza tecnica dell'AI è sottile. Alcune affermazioni nel libro sul funzionamento dei LLM sono semplificate al punto da risultare imprecise per un esperto del settore. La critica è giusta: Harari non è un AI researcher, è un divulgatore storico che usa l'AI come materiale.

Ma la difesa più solida è che il libro non aspira a essere un'analisi tecnica. Aspira a essere un quadro storico-filosofico per orientarsi nel cambiamento. Da questo punto di vista, il valore di Nexus è esattamente nella prospettiva storica: ricordare che il problema dell'informazione e del potere non è nato con i transformer, che esistono pattern storici riconoscibili nelle attuali transizioni, e che le risposte tecnocratiche ("più trasparenza", "più regolazione", "più educazione") sono parte del problema quanto della soluzione, perché si muovono nello stesso framework "naïve view of information" che Harari critica.

---