Pausa di 6 mesi — la lettera FLI che ha fatto tremare Silicon Valley

Chi è: Il Future of Life Institute (FLI) è una ONG fondata nel 2014 da Max Tegmark, Jaan Tallinn (co-fondatore di Skype) e altri. Lavora sulla riduzione dei rischi esistenziali dalla tecnologia, in particolare AI e armi nucleari. La lettera "Pause Giant AI Experiments: An Open Letter" è stata pubblicata il 22 marzo 2023 e ha raccolto oltre 33.000 firme. Ha dato vita a un dibattito globale che ha durato mesi.

Cosa chiedeva la lettera

Una pausa di almeno 6 mesi nel training di sistemi AI più potenti di GPT-4. Non uno stop permanente — una pausa per "sviluppare e implementare protocolli di sicurezza condivisi per sistemi AI avanzati, certificati e monitorabili dagli stakeholder esterni." Il testo era preciso sulle condizioni: la pausa doveva includere tutti i training di sistemi AI oltre una certa soglia di compute, doveva essere coordinata tra i laboratori, e nel caso i laboratori non volessero farlo volontariamente, i governi avrebbero dovuto imporre una moratoria.

Il documento poneva domande esplicite che ancora oggi non hanno risposta soddisfacente: dobbiamo sviluppare menti non-umane che potrebbero diventare più numerose, intelligenti e potenti degli esseri umani? Dobbiamo rischiare di perdere il controllo della nostra civiltà? La lettera non sosteneva che questi rischi fossero certi o imminenti — sosteneva che fossero abbastanza plausibili da giustificare una pausa per capire cosa si stava costruendo. Nell'aprile 2023 FLI ha pubblicato anche una roadmap tecnica per cosa fare durante la pausa: audit degli algoritmi, certificazione della sicurezza, watermarking dei contenuti AI, responsabilità legale per i danni da AI.

Chi l'ha firmata

Tra i firmatari di prima ora: Elon Musk, Steve Wozniak, Yoshua Bengio (Nobel 2024 per la fisica), Stuart Russell (Berkeley, autore del libro di testo AI più usato al mondo), Andrew Yang, Evan Sharp (co-fondatore Pinterest). Oltre 1000 ricercatori AI. Oltre 33.000 firme totali nelle settimane successive. La firma di Bengio e Russell — due delle voci più rispettate nell'AI accademica — ha dato peso scientifico a una lettera che rischiava di sembrare allarmismo.

Chi non ha firmato è altrettanto significativo. Sam Altman (OpenAI) non ha firmato e ha risposto in modo evasivo. Dario Amodei (Anthropic) non ha firmato, preferendo rispondere con la Responsible Scaling Policy. Yann LeCun (Meta) ha criticato la lettera pubblicamente su Twitter definendola "fuorviante." Geoffrey Hinton (Google, al tempo) ha dichiarato di non aver firmato perché non era d'accordo con la formulazione specifica — non perché non condividesse le preoccupazioni. Eliezer Yudkowsky, il più noto "doomista" AI, ha scritto un op-ed sul Time dicendo che la lettera non andava abbastanza lontano e che la pausa avrebbe dovuto essere permanente.

La risposta dei laboratori

OpenAI non ha risposto direttamente alla lettera in modo istituzionale. Altman ha fatto alcune interviste dicendo che capiva le preoccupazioni ma che la pausa non era la risposta giusta. Anthropic ha pubblicato la sua Responsible Scaling Policy mesi dopo — un documento che può essere letto come la risposta di Amodei alla lettera: "invece di fermarci, stabiliamo criteri verificabili per procedere in sicurezza." Google e Meta hanno sostanzialmente ignorato la lettera. In pratica: la pausa non c'è stata.

Il training di modelli frontier è continuato senza interruzioni durante e dopo i 6 mesi richiesti. Google ha annunciato Gemini. Meta ha rilasciato Llama. Anthropic ha continuato il training di Claude 2. OpenAI ha continuato il lavoro su GPT-4 Turbo. La lettera non ha prodotto nessun rallentamento misurabile nella corsa allo scaling. Ironia storica: Elon Musk aveva firmato chiedendo la pausa, e nello stesso periodo stava attivamente costruendo xAI — il suo laboratorio per competere con OpenAI — e cercava di reclutare i migliori ricercatori del settore.

Il valore simbolico

La lettera non ha ottenuto la pausa. Ha ottenuto qualcosa di diverso e forse più duraturo: ha reso il tema della governance AI urgente e legittimo per i governi di tutto il mondo. Nei mesi successivi si è verificata una cascata di eventi politici che difficilmente sarebbe avvenuta allo stesso ritmo senza quel momento di attenzione mediatica: il Congresso USA ha iniziato una serie di audizioni sull'AI con la testimonianza di Altman al Senato (maggio 2023); il G7 ha iniziato a discutere coordinamento AI nell'agenda di Hiroshima; l'UE ha accelerato significativamente il negoziato finale sull'AI Act; Joe Biden ha emesso l'Executive Order sull'AI (ottobre 2023).

Il Summit AI Safety di Bletchley Park (novembre 2023), il primo evento intergovernativo dedicato alla sicurezza AI, nasce in parte da questo momento. Il governo britannico ha usato esattamente la narrativa della lettera — rischi esistenziali che richiedono cooperazione globale — per giustificare l'evento e convincere i governi di USA, Cina, UE e altri a partecipare. La lettera non ha fermato l'AI: ha reso quasi impossibile per i governi continuare a ignorarla.

Le critiche alla lettera

Le critiche sono state numerose e alcune ben fondate. Conflict of interest: molti firmatari erano in posizione di beneficiare da una pausa dei competitor. Musk aveva lasciato OpenAI nel 2018 (in parte per disaccordi di governance) e stava costruendo xAI — una pausa avrebbe danneggiato OpenAI più di lui. Alcune aziende di AI safety avevano interesse a prolungare il periodo di ricerca safety-focused prima della commercializzazione massiva.

Il termine "sistemi più potenti di GPT-4" non era definito operativamente nel testo: chi misura? come? con quale metrica? La soglia di compute era vaga. Una pausa avrebbe avvantaggiato chi era già avanti rispetto a chi stava iniziando. La ricerca sulla safety non era — e non è ancora — avanzata abbastanza da produrre protocolli verificabili utili in 6 mesi. Gary Marcus, critico ponderato dell'AI hype, ha detto che la lettera aveva il cuore giusto ma era mal scritta, gonfiava le capacità attuali dei sistemi AI, e rischiava di essere controproducente creando panico senza direzione. Alcune ricercatrici come Timnit Gebru hanno criticato la lettera perché spostava l'attenzione dai rischi AI concreti e presenti (bias algoritmici, sorveglianza, impatto lavorativo) verso scenari speculativi futuri.

---