The Coming Wave — Mustafa Suleyman

Chi è: Mustafa Suleyman, cofondatore di DeepMind (venduta a Google nel 2014), poi co-fondatore di Inflection AI (Pi), ora CEO di Microsoft AI. Ha costruito AI dall'interno per quindici anni — non è un osservatore esterno o un commentatore accademico. Sa come funzionano questi laboratori, come vengono prese le decisioni, e quali compromessi sono quotidiani.

La tesi

Due onde tecnologiche stanno arrivando in parallelo e stanno per convergere: l'intelligenza artificiale e la biologia sintetica. Prese singolarmente, ciascuna è già trasformativa. Insieme rappresentano una svolta senza precedenti nella storia umana.

Per la prima volta, esseri umani non specialisti possono creare strumenti capaci di moltiplicare il proprio potere in modo quasi illimitato — strumenti che imparano, si adattano, e in certi domini superano già le capacità umane. Il libro nasce dalla convinzione che questa transizione stia avvenendo più rapidamente di quanto le istituzioni, i governi e la società civile siano in grado di elaborare.

Suleyman non è né ottimista ingenuo né pessimista catastrofista. La sua tesi è più scomoda di entrambe le posizioni: l'onda è reale, porta benefici enormi, e allo stesso tempo crea rischi che non sappiamo ancora come contenere.

Il problema della contenibilità

Il capitolo più importante del libro — e quello che ha generato più discussione — riguarda la contenibilità. Tutte le tecnologie potenzialmente pericolose della storia moderna hanno avuto una caratteristica in comune: erano in qualche misura contenibili. Il nucleare richiede infrastrutture enormi e materiali rari. Internet ha punti di controllo centralizzati. Gli smartphone dipendono da catene di fornitura regolamentabili.

L'AI e la biologia sintetica no. Sono troppo diffuse, troppo economiche da replicare, troppo dual-use. Un modello linguistico addestrato da un grande laboratorio può essere copiato, adattato, ripubblicato. Un'istruzione per modificare un agente biologico può essere scritta e distribuita in pochi secondi. Una volta che queste tecnologie escono nei loro ambiti di sviluppo, non rientrano. "Containment is failing," scrive Suleyman, con una chiarezza che ha disturbato molti nel settore.

Questo non è un argomento per fermare lo sviluppo — Suleyman non lo propone. È un argomento per smettere di illudersi che i meccanismi di controllo tradizionali funzioneranno automaticamente anche qui.

La tensione centrale

Il libro non risolve la tensione che pone al centro, e fa bene a non farlo. Da un lato, il potenziale di empowerment individuale è reale e massiccio: accesso a expertise medica, legale, educativa per miliardi di persone che oggi non possono permettersela. Un assistente AI in un villaggio rurale dell'India può già rispondere a domande sulla salute meglio di quanto potrebbe fare la maggior parte dei sistemi sanitari locali.

Dall'altro, i rischi catastrofici non sono fantascienza: la sintesi di agenti biologici pericolosi diventa progressivamente più accessibile con l'avanzare della biologia computazionale; i cyberattacchi automatizzati su infrastrutture critiche sono già una realtà; la destabilizzazione dei sistemi democratici tramite disinformazione generata da AI è un problema attivo, non futuro.

Suleyman non nega nessuno dei due lati. Li mette in tensione e lascia al lettore il disagio di non trovare una risposta pulita. È una scelta narrativa coraggiosa per un libro scritto da chi è anche, direttamente, uno dei costruttori di questa tecnologia.

Le dieci regole per governare l'onda

Nella parte finale, Suleyman propone una serie di principi per una governance che abbia qualche possibilità di funzionare. Non si tratta di un piano dettagliato — e lui lo riconosce — ma di un framework di discussione:

• Safety by design: la sicurezza non può essere un layer aggiunto dopo. Va integrata nella progettazione dei sistemi fin dall'inizio.
• Audit indipendenti: i laboratori AI non possono essere giudici di sé stessi. Serve una struttura di revisione esterna con autorità reale, non solo consultiva.
• Liability per i builder: chi costruisce sistemi AI deve essere legalmente responsabile dei danni prevedibili. Senza responsabilità economica, gli incentivi al rischio rimangono distorti.
• Norme internazionali: un singolo paese che regola non risolve il problema se gli altri non seguono. Serve coordinamento, sul modello dell'IAEA per il nucleare o del Trattato di non proliferazione, adattato alle specificità di tecnologie non centrali e dual-use.
• Democrazie che collaborano: la competizione geopolitica tra USA e Cina sull'AI è reale e comprensibile, ma produce incentivi perversi. I paesi democratici che rinunciano a standard di sicurezza per guadagnare vantaggio competitivo rischiano di minare le proprie istituzioni prima ancora che l'AI lo faccia.

Differenza da altri libri sull'AI

The Coming Wave non è né utopico né apocalittico, e questo lo distingue dalla maggior parte della letteratura pubblica sull'AI. Non ha la sistematicità filosofica di Stuart Russell o la profondità tecnica di Nick Bostrom su Superintelligence. Ma ha qualcosa che entrambi non possono avere: la credibilità di chi ha costruito sistemi AI commerciali, ha visto come le decisioni vengono prese internamente ai laboratori, e conosce la distanza tra la narrazione pubblica e la realtà operativa.

Suleyman scrive con la consapevolezza di chi ha contribuito a creare il problema che descrive. Questo non lo rende più affidabile in senso assoluto — ha ovvi conflitti di interesse — ma rende il suo punto di vista difficilmente replicabile da chi osserva dall'esterno.

Vale la pena leggerlo non per trovare soluzioni — che il libro non offre — ma per avere una mappa più onesta del territorio: i benefici sono reali, i rischi sono reali, e la distanza tra dove siamo e dove dovremmo essere in termini di governance è enorme.

---