Code Dependent — Madhumita Murgia sulle Persone Sostituite dagli Algoritmi

Chi è: Madhumita Murgia è AI editor del Financial Times, la prima persona a ricoprire quel ruolo nel quotidiano britannico. Biologa di formazione (Oxford), passata al giornalismo tecnologico per la rivista WIRED prima del FT. Code Dependent, pubblicato in marzo 2024 da Picador nel Regno Unito e da Henry Holt negli Stati Uniti, è il suo primo libro. Ha vinto l'Orwell Prize per la Political Writing 2024, il riconoscimento più importante per il giornalismo politico in lingua inglese.

La tesi: l'AI è un sistema globale di lavoro umano nascosto

Quando un sistema di intelligenza artificiale produce un risultato — un'immagine generata, una raccomandazione, una decisione di concedere o negare credito — l'osservatore vede solo l'output. Murgia argomenta che dietro ogni output ci sono catene di lavoro umano distribuite globalmente, prevalentemente nei paesi a basso reddito, e prevalentemente invisibili a chi consuma il prodotto finale. Il libro è un tentativo di rendere visibile quel lavoro e di metterlo in relazione con la geografia, il genere, la classe e il colonialismo.

L'approccio metodologico è reportage. Murgia attraversa Kenya, Filippine, India, Argentina, Bulgaria, Stati Uniti, Regno Unito. Intervista lavoratori, vittime, ingegneri, regolatori. Ricostruisce storie singole e poi le inquadra nella struttura economica globale che le produce. Non è un libro di tesi astratte: è un libro di persone che hanno nomi e indirizzi.

I data labeler di Nairobi che hanno etichettato la violenza per ChatGPT

Il capitolo più discusso del libro racconta i lavoratori kenyani impiegati attraverso Sama, una società di outsourcing con sede a San Francisco, per etichettare contenuti tossici destinati a OpenAI. Per due dollari l'ora, questi lavoratori hanno letto e classificato testi che descrivevano abusi sessuali su minori, omicidi, suicidi, mutilazioni — generando il dataset che ha permesso a ChatGPT di rifiutare di produrre contenuti analoghi. La salute mentale di alcuni di loro è collassata. Sama ha terminato il contratto con OpenAI nel 2022. La storia era stata anticipata da un reportage di Billy Perrigo per Time nel gennaio 2023; Murgia la approfondisce, intervista i protagonisti per nome, ricostruisce la catena contrattuale.

Il punto che il capitolo costringe a confrontare: i sistemi AI considerati "etici" e "sicuri" lo sono perché esiste un margine geografico in cui il prezzo per processare violenza umana è basso. La sicurezza dei modelli frontier è esternalizzata, in senso letterale, su lavoratori di paesi in cui le tutele psicologiche del lavoro sono inesistenti. Il fatto stesso che ChatGPT non descriva atrocità deriva dall'aver fatto descrivere atrocità a qualcun altro, sotto contratto, a due dollari l'ora.

L'esclusione algoritmica nel sistema Aadhaar indiano

Aadhaar è il sistema biometrico di identificazione nazionale dell'India, il più grande al mondo: oltre un miliardo di persone registrate, impronte digitali e scansione dell'iride collegate a un identificativo unico. Funziona come gateway per accedere a sussidi alimentari, pensioni, conti bancari, scuola pubblica. Murgia segue persone — anziani con impronte digitali consumate dal lavoro manuale, lavoratori che non riescono a verificare l'identità per problemi tecnici di rete nei villaggi rurali — che vengono espulse dal sistema di welfare perché l'algoritmo non le riconosce.

La conseguenza è concreta: ci sono morti documentate per fame riconducibili al fallimento del riconoscimento biometrico. La storia dell'AI come motore di efficienza pubblica si scontra con la storia dei costi che quell'efficienza scarica sui soggetti più fragili. Murgia non sostiene che Aadhaar sia complessivamente fallimentare — registra benefici e costi insieme. Ma il suo argomento è che il dibattito globale sull'AI nei servizi pubblici tende a contabilizzare i benefici e a nascondere i costi distribuiti.

Il management algoritmico dei rider e degli autisti

I capitoli sul gig work sono ambientati tra Delhi e Londra. Murgia segue rider Deliveroo e autisti Uber. Il management algoritmico — il fatto che le decisioni di assegnazione, valutazione, sanzione siano prese da un sistema software anziché da un manager umano — produce una forma di disciplina molto particolare. Il lavoratore non può negoziare con l'algoritmo, non può spiegargli le circostanze, non può chiedere ragionevolezza. Riceve notifiche di sospensione senza appello. Le sue ore di lavoro vengono ottimizzate per la convenienza della piattaforma, non per la sua stabilità di reddito.

Murgia raccoglie casi di lavoratori che hanno organizzato risposte collettive — gruppi WhatsApp per condividere strategie di gaming dell'algoritmo, sindacati emergenti di gig worker, cause legali in Spagna e Regno Unito che hanno cominciato a riclassificare alcuni gig worker come dipendenti. La resistenza esiste, ma è asimmetrica: i singoli lavoratori contro piattaforme con risorse legali enormi.

La diagnosi medica in zone rurali africane

Un capitolo più ottimista racconta l'uso di AI per diagnosi mediche in aree dell'Africa subsahariana dove la densità di medici per abitante è cento volte inferiore al Regno Unito. Sistemi AI per la diagnosi di tubercolosi, retinopatia diabetica, e cancro del collo dell'utero permettono a operatori sanitari con formazione limitata di identificare casi che richiedono intervento specialistico. Murgia presenta questo come l'esempio più convincente del potenziale positivo dell'AI: non perché sostituisce medici qualificati, ma perché estende la copertura sanitaria in posti dove l'alternativa è nessuna copertura.

Il libro non chiude in modo manicheo. Non sostiene che l'AI sia un male da rifiutare. Sostiene che le sue benefiche applicazioni sono inseparabili dai suoi costi distribuiti, e che la conversazione pubblica deve includere entrambi i lati con la stessa serietà.

Posizione nel canone e confronto con altri libri

Code Dependent si inserisce in una linea di reportage critico sull'AI che include "Atlas of AI" di Kate Crawford (2021) e "Empire of AI" di Karen Hao (2025). Rispetto a Crawford, Murgia è meno teorica e più narrativa — meno geneaology foucaultiana, più storie singole verificate. Rispetto a Hao, è meno OpenAI-centrica — il suo focus è la catena globale del lavoro AI, non l'arc storica di una singola azienda. Per chi vuole capire l'AI come fenomeno sociotecnico e non come prodotto, è probabilmente la lettura più equilibrata tra le tre.

Per HR leader, capi delle operations, e responsabili di compliance in aziende che integrano AI nei processi: questo libro è particolarmente raccomandato. Costringe a confrontare la catena di fornitura del proprio stack AI nello stesso modo in cui le aziende di abbigliamento sono state costrette a confrontare le proprie catene di fornitura tessili negli anni novanta. La domanda non è se quella catena esiste — esiste. La domanda è se l'organizzazione la conosce.

---