Hello World — Come Essere Umani nell'Era delle Macchine

Chi è: Hannah Fry è matematica all'University College London, ricercatrice di matematica applicata alle città e ai sistemi complessi, e una delle comunicatrici scientifiche più seguite nel mondo anglosassone, nota per le serie BBC "Contagion!" e "The Joy of Data". Il suo approccio al libro è quello della matematica: né entusiasmo acritico né rifiuto luddista, ma analisi quantitativa dei casi reali. "Hello World" è stato molto citato nei dibattiti preparatori dell'AI Act europeo.

La domanda fondamentale

Fry non scrive un libro sul futuro dell'AI. Scrive un libro sul presente: gli algoritmi già esistenti, già usati, già integrati in decisioni che riguardano milioni di persone. La sua domanda è concreta e pratica: in ciascun dominio, l'algoritmo fa meglio dell'umano? Peggio? In che condizioni? E chi decide quando usare uno o l'altro? Non esiste una risposta universale — la risposta cambia per dominio, per tipo di errore, per conseguenza dell'errore. Il libro è una guida per fare queste distinzioni con rigore invece che con pregiudizio.

La struttura del libro rispecchia questa domanda: sei capitoli, sei domini, ciascuno con casi reali documentati, analisi dei fallimenti umani e algoritmici, e una valutazione comparativa onesta. Fry è disposta ad ammettere quando l'algoritmo è meglio — e lo è in contesti specifici — e quando è peggio. Questa onestà bidirezionale è rara nel dibattito pubblico sull'AI, dove si tende a posizioni ideologiche pre-determinate.

Potere: Cambridge Analytica e la profilazione politica

Il primo capitolo esamina come gli algoritmi siano stati usati per influenzare il processo democratico. Cambridge Analytica ha usato dati di 87 milioni di profili Facebook per costruire modelli psicografici degli elettori — classificandoli secondo il framework OCEAN (Openness, Conscientiousness, Extraversion, Agreeableness, Neuroticism) — e ha micro-targetato messaggi politici personalizzati. Fry analizza la ricerca scientifica alla base: studi pubblicati su PNAS mostrano che i like Facebook predicono tratti di personalità con accuratezza superiore a quella di amici, familiari e partner.

La domanda di Fry non è se Cambridge Analytica abbia deciso le elezioni (non c'è evidenza conclusiva che l'abbia fatto), ma se una tecnologia del genere sia compatibile con un processo democratico basato sulla deliberazione. La micro-targetizzazione algormica bypassa la sfera pubblica — ogni elettore vede messaggi diversi, calibrati sulle sue vulnerabilità psicologiche specifiche, senza che ci sia un dibattito condiviso su cui esercitare senso critico collettivo. Non è censura: è frammentazione calcolata del discorso pubblico.

Giustizia: COMPAS e il bias razziale

Il capitolo più citato del libro esamina COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), un algoritmo usato in diversi stati americani per valutare il rischio di recidiva di imputati e informare le decisioni di libertà su cauzione e sentencing. Nel 2016 ProPublica ha pubblicato un'analisi devastante: COMPAS classificava erroneamente come ad alto rischio di recidiva i detenuti neri al doppio del tasso rispetto ai detenuti bianchi (falsi positivi), e classificava erroneamente come a basso rischio i detenuti bianchi a tasso doppio rispetto ai neri (falsi negativi).

Fry analizza il paradosso tecnico al cuore del dibattito successivo. Northpointe (il produttore di COMPAS) ha risposto che l'algoritmo è "equo" perché calibrato: tra chi riceve un punteggio di rischio 7, la percentuale che effettivamente recidiva è la stessa per neri e bianchi. ProPublica usava una definizione diversa di equità: i tassi di falsi positivi e falsi negativi dovrebbero essere uguali per gruppo demografico. Il problema formale — dimostrato da ricercatori come Chouldechova — è che queste due definizioni di equità sono matematicamente incompatibili quando le prevalenze di base differiscono tra gruppi. Non si può avere entrambe. La scelta tra definizioni di equità è una scelta politica, non tecnica.

Medicina: AI diagnostica e il dermatologo

Il capitolo sulla medicina è il più favorevole all'algoritmo. Fry esamina il paper del 2017 su Nature che mostrava una CNN di Stanford classificare melanomi e nevi benigni con accuratezza pari o superiore a un panel di 21 dermatologi certificati, su un dataset di 130.000 immagini. Esamina anche sistemi di AI per la diagnosi di retinopatia diabetica, cancro al seno da mammografia, aritmie cardiache da ECG: in questi contesti controllati, l'AI fa errori diversi dall'umano, spesso in modo complementare.

Ma Fry introduce la complessità reale dell'implementazione clinica. Il dermatologo non vede solo l'immagine — vede il paziente, conosce l'anamnesi, osserva il contesto. I dataset di training dei sistemi di AI dermatologica erano composti quasi esclusivamente da pelli chiare, con rappresentanza ridottissima di pelli scure — e i sistemi performano peggio su quelle pelli. La domanda del libro — quando fidarsi dell'algoritmo — qui diventa: fidarsi per quale paziente, in quale contesto clinico, con quale livello di supervisione umana? Non c'è una risposta singola.

Auto: la guida autonoma e i casi limite

Il capitolo sulla guida autonoma è scritto prima della piena emergenza dei problemi di Waymo e Tesla Autopilot, ma anticipa molte questioni che sono poi diventate centrali. Fry esamina i dati statistici: per miglia percorse, i veicoli autonomi in condizioni normali causano meno incidenti degli umani. Ma il profilo degli incidenti è radicalmente diverso. Gli umani sono vulnerabili a stanchezza, distrazione, alcol, velocità eccessiva — cause prevedibili e gestibili con politiche. I sistemi autonomi falliscono su casi edge rari ma sistematici: riflessioni di luce anomale, segnaletica degradata, camion con grafica inusuale, pedoni in posizioni inattese.

Fry usa il famoso "problema del tram" in versione algormica per esaminare come le scelte progettuali nei veicoli autonomi incorporino decisioni etiche implicite. Se un incidente è inevitabile, l'algoritmo come decide? Minimizzare le vittime totali? Proteggere sempre il passeggero? Trattare tutti i pedoni ugualmente? Le risposte divergono tra culture — un sondaggio cross-culturale dell'MIT (Moral Machine) ha documentato differenze significative — e chi scrive l'algoritmo sta prendendo decisioni etiche globali senza mandato democratico.

Crimine: predictive policing e il feedback loop

I sistemi di predictive policing — PredPol, HunchLab, ShotSpotter — usano dati storici di criminalità per predire dove i crimini avverranno e concentrare la presenza di polizia. Il problema di feedback è strutturale: più polizia in un'area significa più arresti in quell'area, che aumentano i dati di criminalità in quell'area, che aumentano la predizione di criminalità futura, che aumenta la presenza di polizia. Se i dati storici riflettono pratiche di polizia razzialmente distorte — e studi documentati mostrano che lo fanno — l'algoritmo amplifica e automatizza queste distorsioni con l'apparenza dell'oggettività tecnica.

Fry esamina anche la sorveglianza predittiva sulle persone (non solo sui luoghi), dove i sistemi assegnano punteggi di rischio a individui. Qui i rischi di falsi positivi sono ancora più gravi — persone etichettate come probabili criminali che non hanno commesso nessun reato. La pressione politica su questi sistemi è aumentata significativamente dopo il 2020, con diverse città americane che li hanno dismessi. Il libro anticipa questa traiettoria con argomenti precisi.

La tesi finale: né deferenza né rifiuto

Fry conclude con una posizione sfumata che è il contrario delle posizioni comuni nel dibattito pubblico. Non dice "fidate degli algoritmi, sono obiettivi". Non dice "non fidate degli algoritmi, sono biased". Dice: studiate caso per caso il tipo di errore che l'algoritmo fa e il tipo di errore che l'umano fa, valutate le conseguenze relative, progettate il sistema di interazione uomo-macchina di conseguenza. In alcuni contesti — screening radiologico, monitoring di traffico, fraud detection bancaria — la macchina deve guidare con l'umano in supervisione. In altri — sentencing penale, decisioni di cura medica complessa, valutazioni di welfare — l'umano deve decidere con la macchina come strumento informativo, non come arbitro.

Questa posizione ha reso "Hello World" un testo di riferimento nei dibattiti sull'AI Act europeo e sui framework di AI governance in generale: fornisce il linguaggio per parlare di accountability algoritmica in modo concreto, non astratto, e per costruire framework di supervisione che non siano né capitolazione né rifiuto. È probabilmente il libro sull'AI più utile per policy maker, giuristi e medici che devono prendere decisioni pratiche sui sistemi algoritmici nei prossimi anni.

---