Connor Leahy e Conjecture — La Voce Estrema sull'AI Catastrophic Risk

Chi è: Connor Leahy è uno dei personaggi più singolari del panorama AI safety. Nel 2020, ancora studente, ha co-fondato EleutherAI — il collettivo open source che ha replicato GPT-3 con GPT-Neo e ha pubblicato The Pile, uno dei dataset più importanti dell'era pre-GPT-3.5. Nel 2022 ha fatto un pivot drastico: ha fondato Conjecture, un laboratorio londinese focalizzato esclusivamente su AI safety, e si è trasformato nella voce più estrema e dichiaratamente "doomer pragmatica" del dibattito pubblico sull'AI.

Da EleutherAI a Conjecture — il pivot

La traiettoria di Leahy è quella di chi ha aiutato a costruire ciò che ora chiede di fermare. EleutherAI nasce nel 2020 come reazione alla chiusura di GPT-3: OpenAI aveva annunciato il modello ma non lo aveva rilasciato apertamente, e un gruppo di ricercatori indipendenti decise che la replica open source fosse un imperativo democratico. GPT-Neo, GPT-J e poi GPT-NeoX-20B sono i risultati di quel lavoro. The Pile — 825 GB di testo curato — è diventato il dataset di riferimento per chiunque volesse addestrare modelli linguistici large fuori dai grandi laboratori.

Poi, attorno al 2021-2022, Leahy ha cambiato posizione in modo radicale. Pubblicamente ha spiegato di aver progressivamente concluso che il vantaggio dell'open source è inferiore al rischio di diffondere capabilities che la società non sa ancora gestire. Nel 2022 fonda Conjecture a Londra con un mandato esplicito: lavorare su tecniche di alignment e contemporaneamente fare advocacy pubblica per rallentare lo sviluppo dei sistemi più potenti. È il momento in cui Leahy si separa intellettualmente dalla comunità EleutherAI, che resta convinta del valore dell'open release.

La posizione: doomer pragmatico

Leahy si definisce "doomer pragmatico". Significa che condivide la valutazione di rischio catastrofico di figure come Eliezer Yudkowsky — la possibilità che sistemi AI sufficientemente avanzati possano produrre esiti esistenzialmente negativi per l'umanità — ma rifiuta il fatalismo. La sua posizione è: il rischio è reale, è probabilmente alto, e proprio per questo bisogna agire politicamente adesso, non scrivere manifesti rassegnati.

Le sue proposte concrete sono drastiche rispetto al consenso dell'industria. Pausa attiva e coordinata sullo scaling dei modelli frontier — non una moratoria volontaria ma un meccanismo di enforcement internazionale. Controllo hardware: limitare l'esportazione e l'accesso alle GPU di fascia alta come si fa con il materiale fissile. Cap computazionale per modello, oltre il quale il training richiede autorizzazione governativa. Trasparenza obbligatoria sui training run di frontiera. È un programma che assomiglia più alla non-proliferazione nucleare che alla regolamentazione del software.

Lex Fridman 2023 — il podcast controverso

Nel 2023 Leahy partecipa al podcast di Lex Fridman per oltre tre ore. È una delle apparizioni più discusse della stagione e segna il momento in cui la sua posizione raggiunge il pubblico generalista anglofono. Leahy non addolcisce: usa il linguaggio dell'estinzione, descrive scenari di perdita di controllo, accusa apertamente le grandi aziende AI di costruire qualcosa che non sanno controllare per ragioni di competizione commerciale.

La conversazione è polarizzante. Per una parte degli ascoltatori è la prima volta che sentono argomentare seriamente il caso catastrofico da qualcuno con credibilità tecnica e storia di costruzione. Per altri è un esempio di doomerism che ostacola progressi reali e demoralizza la ricerca. La controversia stessa è parte del fenomeno: Leahy ha scelto deliberatamente di occupare lo spazio retorico più estremo perché sostiene che il problema sia la pressione del consenso ottimistico, non la mancanza di voci critiche moderate.

Il position paper e la frattura culturale

Nel 2023 Conjecture pubblica un position paper intitolato "A Plan to Avert AI Catastrophe", articolando in modo strutturato la proposta di policy: regolamentazione del compute, audit obbligatori, kill switch governativi, divieto temporaneo di training oltre certe soglie. È un documento volutamente ambizioso, pensato per spostare la Overton window del dibattito policy.

Il paper accentua la frattura tra Leahy e i suoi ex-colleghi di EleutherAI. La comunità open source — con figure come Stella Biderman — sostiene che limitare l'accesso ai modelli concentra il potere nei laboratori chiusi (OpenAI, Google, Anthropic), peggiorando la situazione invece di migliorarla. Leahy risponde che la diffusione non protegge da nessuno dei rischi catastrofici che lo preoccupano, e che la concentrazione è preferibile se accompagnata da supervisione regolatoria. È una divisione filosofica profonda: due visioni opposte di cosa significhi "AI safety" che oggi convivono malamente nello stesso campo.

Perché leggere Leahy anche se non si è d'accordo

Leahy è utile da seguire indipendentemente dal verdetto sulle sue proposte. Primo, ha credibilità tecnica costruita dal lato hands-on: non è un filosofo o un commentatore, ha contribuito direttamente alla replica open source di GPT-3. Quando parla di reti neurali e training run, parla di cose che ha costruito. Secondo, articola con chiarezza una posizione che molti altri ricercatori condividono privatamente ma esprimono in toni più cauti — leggerlo permette di capire l'argomento estremo nella sua forma più compatta. Terzo, è un caso di studio di pivot intellettuale onesto: pochi ricercatori cambiano posizione così visibilmente, accettando il costo sociale di contraddire il proprio lavoro precedente.

Il sito di Conjecture è il punto di accesso principale: contiene i paper, le interviste e gli interventi pubblici di Leahy. Vale anche la pena ascoltare l'intera puntata di Fridman per cogliere la coerenza interna del ragionamento, anche per chi conclude di non essere d'accordo con le conclusioni.

---