Planning for AGI and beyond — Sam Altman

Chi è: Sam Altman, CEO di OpenAI dal 2019 (con breve e turbolenta pausa nel novembre 2023, durata meno di una settimana). Ex presidente di Y Combinator, dove ha finanziato e mentored centinaia di startup. Ha co-fondato OpenAI nel 2015 insieme a Elon Musk, Greg Brockman e altri, con missione esplicita: sviluppare l'intelligenza artificiale generale in modo sicuro e per il beneficio dell'umanità. Nel 2023 guida il laboratorio più influente nel dibattito pubblico sull'AI.

La tesi

Il post apre con una dichiarazione che in qualsiasi altro contesto aziendale sarebbe considerata imprudente: OpenAI crede di stare costruendo uno degli strumenti più trasformativi e potenzialmente pericolosi della storia dell'umanità. Lo fa comunque. La giustificazione è strategica, non ingenua: se l'AGI arriverà — e Altman e il team di OpenAI credono che arriverà — è meglio che a costruirla sia un laboratorio che considera la sicurezza una priorità genuina, piuttosto che uno che non lo fa.

Questa logica è contestabile. Ma è importante capirla perché determina ogni decisione operativa di OpenAI: il ritmo dei rilasci, la scelta di rendere public-facing i modelli invece di tenerli chiusi, le partnership commerciali con Microsoft. Non è opportunismo travestito da missione — o almeno, non solo. È una posizione coerente con una visione specifica del rischio competitivo.

Definizione di AGI

Altman evita deliberatamente i tecnicismi. Nel post, AGI è definita come un'AI che supera gli esseri umani nella maggior parte dei task cognitivi. È una definizione funzionale, non tecnica. Non specifica architetture, parametri, o benchmark. Non promette timeline.

Questa vaghezza è in parte onesta e in parte strategica. Onesta perché nessuno sa davvero cosa significherà AGI quando arriverà — le definizioni accademiche proliferano e si contraddicono. Strategica perché una definizione vaga permette di sostenere che si è "sulla strada giusta" senza mai dover ammettere di non esserci arrivati.

Altman riconosce esplicitamente di non sapere come sarà l'AGI. Questa è una delle affermazioni più oneste del post, e vale la pena sottolinearla: il CEO del laboratorio che più di ogni altro viene associato allo sviluppo dell'AGI dice di non avere una previsione concreta su cosa produrrà.

Il framework di deployment graduale

La parte più operativa del post descrive come OpenAI intende gestire i rilasci nei prossimi anni. I punti chiave:

• Iterative deployment: non un grande rilascio finale ma una serie progressiva di sistemi sempre più capaci, ciascuno dei quali serve a imparare cosa funziona, cosa non funziona, e quali rischi emergono prima di andare al passo successivo.
• Feedback loops dal mondo reale: l'interazione di milioni di utenti con GPT-3.5 e GPT-4 produce dati che nessun ambiente di test controllato può replicare. I problemi reali — jailbreak, misuse, allucinazioni su informazioni critiche — emergono in produzione, non in laboratorio.
• No "big bang release": Altman esclude esplicitamente l'idea di sviluppare l'AGI in segreto per poi rilasciarla completamente formata. Il ragionamento è che una discontinuità improvvisa non darebbe alle istituzioni, ai governi e alla società il tempo di adattarsi.

GPT-4 è citato come esempio concreto di questo approccio: lanciato con limitazioni esplicite, con un sistema di utilizzo acceptable use policy, con modifiche progressive alle policy in risposta a problemi emersi dopo il lancio.

La governance

Il post avanza proposte di governance su più livelli. Alcune sono interne a OpenAI, altre riguardano il settore, altre ancora il quadro regolatorio internazionale:

• Coordinamento tra laboratori: Altman propone un meccanismo simile all'IAEA per il nucleare — un'istituzione internazionale che definisca standard minimi per lo sviluppo di sistemi frontier, con meccanismi di audit. Non un cartello ma un sistema di verifica condiviso.
• Audit indipendenti: i sistemi più capaci dovrebbero essere sottoposti a revisione esterna prima del rilascio. Non è specificato chi condurrebbe questi audit o con quale autorità.
• OpenAI come benefit corporation: la struttura societaria non-solo-profit di OpenAI (un capped-profit con missione pubblica) è presentata come garanzia che le decisioni non siano guidate esclusivamente dalla massimizzazione del profitto.
• Pluralismo dei laboratori: Altman difende l'esistenza di competitor come Anthropic, DeepMind, e altri. La sua logica è che un monopolio sull'AGI — anche da parte di OpenAI — sarebbe un rischio sistemico maggiore della competizione.

Le tensioni non risolte

Il post è scritto con cura, ma alcune tensioni rimangono aperte — e in retrospettiva, sapendo quello che è successo dopo, risultano più significative di quanto sembrino a una prima lettura.

Il post non dice come si gestisce il conflitto reale tra la missione di sicurezza e le pressioni commerciali che derivano dall'investimento Microsoft e dalle aspettative di ricavo. Non dice cosa succede se i competitor non seguono le stesse regole di cautela. Non dice chi decide quando un sistema è abbastanza sicuro da essere rilasciato — e con quale processo.

Queste tensioni non sono rimaste teoriche. Il board drama del novembre 2023 — in cui il board ha licenziato Altman per ragioni legate alla trasparenza, salvo poi riassumerlo sotto pressione degli investitori e dei dipendenti — ha reso visibili le contraddizioni strutturali di un'organizzazione che cerca di servire contemporaneamente la missione pubblica e gli interessi commerciali. Il post di febbraio non aveva una risposta a questo problema, e i fatti di novembre hanno mostrato perché.

Perché vale la pena leggerlo

Non per le risposte, che il post non offre, ma per capire la logica interna di OpenAI: non naif, non cinica. Una combinazione di messianismo tecnologico e calcolo di rischio che è difficile da trovare altrove nella comunicazione pubblica aziendale.

Leggere questo post aiuta a capire le decisioni che OpenAI ha preso nei mesi successivi — sia quelle che sembravano coerenti con la missione sia quelle che sembravano contraddirla. Il documento è un riferimento utile per chiunque voglia discutere di AI governance senza semplificazioni: mostra quanto sia difficile tradurre princìpi ragionevoli in pratiche operative quando si è contemporaneamente il laboratorio più avanzato, il più finanziato, e il più sotto scrutinio del mondo.

---