Ajeya Cotra — Le Bio Anchors di Open Philanthropy che Hanno Predetto AGI

Chi è: Ajeya Cotra, Senior Research Analyst a Open Philanthropy. Nel 2020 pubblica un report di 169 pagine intitolato "Forecasting Transformative AI with Biological Anchors" — diventa il documento più citato e più contestato del dibattito sui timeline AGI all'interno della comunità AI safety. La sua mediana iniziale per "TAI" — transformative AI — era il 2050. Dal 2022 ha aggiornato pubblicamente la stima a 2040, poi ancora più giù dopo GPT-4. È uno degli esempi più puliti di forecaster che cambia idea quando vede i dati cambiare.

Il report del 2020

Il report nasce come progetto interno di Open Philanthropy per capire quando aspettarsi "transformative AI" — definita come AI sufficientemente potente da causare una transizione economica paragonabile alla rivoluzione industriale. L'output non è una previsione singola ma una distribuzione di probabilità: 10% entro il 2031, 50% entro il 2052, 80% entro il 2090. Mediana 2050. Il documento è stato discusso per anni sui forum LessWrong e Effective Altruism Forum.

Il valore del report non è nel numero finale ma nel metodo. Cotra costruisce un framework esplicito, parametrizzato, riproducibile. Chiunque può prendere il foglio di calcolo, cambiare le assunzioni, e vedere come si muove la distribuzione. Questo lo distingue da quasi tutte le altre previsioni AGI dell'epoca, che erano essenzialmente intuizioni di esperti senza meccanismo sottostante.

Il framework: ancorare al cervello biologico

L'idea cardine: usare il cervello umano come "biological anchor" per stimare quanta computazione serve per addestrare un sistema AGI-equivalente. Cotra considera sei diverse stime — dalla "lifetime anchor" (computazione di una vita umana) alla "evolution anchor" (computazione dell'intera evoluzione biologica) — e le combina con pesi probabilistici. Poi proietta in avanti i trend di costo del compute (legge di Moore + investimenti) per stimare quando il compute necessario diventerà economicamente accessibile.

Il framework decompone il problema in fattori indipendenti: quanto compute serve per training; quanto velocemente il costo scende; quanto cresce la spesa annua dei lab; quanto efficaci sono gli algoritmi rispetto al brute force evolutivo. Ognuno è una variabile aleatoria con la propria distribuzione. La data di TAI è il prodotto di queste distribuzioni — esplicita, criticabile, verificabile.

Gli update successivi

Nel 2022, dopo PaLM e prima di ChatGPT, Cotra aggiorna pubblicamente la mediana a 2040. La ragione: i modelli recenti dimostrano emergent capabilities con compute inferiore a quanto previsto, e il rate di crescita degli investimenti è più rapido del trend storico. Dopo GPT-4 e le iterazioni 2023-2024, il numero scende ancora — in interviste recenti parla di mediana intorno al 2036. Il messaggio non è "avevamo ragione", è "il modello si aggiorna quando il mondo cambia."

Questa onestà metodologica è una delle ragioni per cui Cotra è rispettata anche da chi disagree con le sue conclusioni. Non difende il numero del 2020 come fosse una bandiera. Pubblica gli update con spiegazioni dettagliate di quali parametri si sono mossi e perché. È un modello di come dovrebbero comportarsi i forecaster su qualunque tema, non solo sull'AI.

La critica di LeCun

Yann LeCun, Chief AI Scientist di Meta, è il critico più visibile delle bio anchors. La sua obiezione principale: la stima del compute cerebrale che Cotra usa (intorno a 10^15 FLOPS) è probabilmente sbagliata di ordini di grandezza. Per LeCun, il cervello fa cose che le architetture deep learning attuali nemmeno provano a fare — apprendimento da pochissimi esempi, world models predittivi, ragionamento causale. Quindi anche se eguagliassimo il compute biologico stimato, non otterremmo AGI senza scoperte architetturali nuove.

Cotra ha riconosciuto pubblicamente che la stima cerebrale è il punto più fragile del framework. La risposta operativa è stata: invece di affidarsi a un singolo anchor, distribuire la probabilità su più anchor diversi (lifetime, evolution, genome) e lasciare che siano i dati osservati a riponderarli. Anche LeCun ha però moderato la sua posizione: nel 2023-2024 ha ammesso che le LLM sono più capaci di quanto si aspettasse, anche se continua a sostenere che AGI vera richieda altri paradigmi.

Il posto nel dibattito timeline

Le bio anchors sono diventate il punto di riferimento contro cui si misurano altre previsioni. Metaculus — piattaforma di forecasting pubblico — ha tracciato per anni la "weak AGI" question con risultati progressivamente più aggressivi (mediana intorno al 2027 nel 2024, da 2040+ del 2020). AI Impacts, progetto separato finanziato anch'esso da Open Phil, ha condotto survey ripetute di ricercatori AI con risultati simili: mediane in continua compressione.

Il consenso che emerge dal complesso di queste fonti — Cotra, Metaculus, AI Impacts, le previsioni interne dei lab — è che i timeline pre-2022 erano probabilmente troppo lunghi. Non perché AGI sia certa entro il 2030, ma perché la probabilità nel decennio 2025-2035 è significativamente più alta di quanto si pensasse cinque anni fa. Cotra è una delle persone che ha contribuito a rendere quella conclusione difendibile con numeri, non solo con intuizioni.

---