Helen Toner — Da OpenAI Board a Voce Centrale dell'AI Governance

Chi è: Helen Toner è Director of Strategy and Foundational Research Grants al CSET (Center for Security and Emerging Technology) di Georgetown University. Ha fatto parte del board di OpenAI dal 2021 al novembre 2023 ed è stata una delle persone che hanno votato il licenziamento di Sam Altman in quei cinque giorni che hanno scosso l'industria AI. La sua uscita forzata dal board l'ha trasformata da figura interna a voce pubblica indipendente sulla governance dell'AI, con una prospettiva non Silicon Valley che è diventata sempre più ascoltata.

Dal Center for Security and Emerging Technology

Toner lavora al CSET di Georgetown dal 2019, dove dirige la strategia e i grant per la ricerca foundational. Il CSET è uno dei pochi think tank di policy AI con seria competenza tecnica: i suoi report sono regolarmente citati dal governo USA e usati come base per audizioni al Congresso. Toner contribuisce in particolare al lavoro su Cina, semiconductor supply chain, e governance dei modelli frontier.

Il suo background non è quello tipico della tech industry. Australiana, ha lavorato a Open Philanthropy occupandosi di grantmaking sulla sicurezza AI, ha vissuto a Pechino per studiare l'ecosistema AI cinese, e ha sviluppato una vista sulla materia che combina rigore accademico e attenzione geopolitica. È esattamente il tipo di profilo — analitico, internazionale, non legato a interessi commerciali — che mancava nei dibattiti dominati dalle voci delle big tech californiane.

I cinque giorni di novembre 2023

Il 17 novembre 2023 il board di OpenAI ha licenziato Sam Altman come CEO con un comunicato laconico che lo accusava di non essere stato "consistently candid" nelle comunicazioni con il board. Helen Toner era uno dei quattro membri che ha votato a favore del licenziamento, insieme a Ilya Sutskever, Tasha McCauley e Adam D'Angelo.

I giorni successivi sono diventati uno dei momenti più sorprendenti della storia recente di Silicon Valley: oltre 700 dipendenti hanno minacciato dimissioni di massa, Microsoft ha annunciato che avrebbe assunto Altman a guidare un nuovo team interno, Sutskever ha cambiato posizione pubblicamente. Il 21 novembre Altman era di nuovo CEO. Il board che lo aveva licenziato è stato ricomposto. Toner ha lasciato la posizione.

Le ragioni precise del licenziamento non sono mai state divulgate per intero. Toner, intervistata mesi dopo al podcast TED AI Show, ha indicato problemi sistematici di onestà nella comunicazione con il board e ha citato un episodio specifico: un paper accademico che lei stessa aveva co-firmato, "Decoding Intentions", veniva usato da Altman come pretesto per metterla in difficoltà. Quel paper criticava implicitamente il timing del lancio di ChatGPT come strategia che aveva contribuito ad accelerare la corsa industriale all'AI senza adeguati safety standard.

Il paper "Decoding Intentions"

Pubblicato nell'ottobre 2023, "Decoding Intentions: Artificial Intelligence and Costly Signals" è un paper di policy AI che Toner ha co-scritto con Andrew Imbrie. L'argomento centrale è che le aziende AI possono segnalare seriamente i loro impegni di sicurezza solo attraverso azioni costose — non attraverso comunicati stampa o policy paper. Il paper menziona OpenAI in modo non lusinghiero, contrastando le sue dichiarazioni di prudenza con la decisione di rilasciare ChatGPT in modo molto più aggressivo di quanto fosse stato comunicato.

Per il CEO di una azienda, vedere una propria board member co-firmare un paper che critica la strategia commerciale dell'azienda è ovviamente problematico. Per una accademica indipendente, però, scrivere quel paper era parte normale del suo lavoro. Questo conflitto strutturale — tra board member con doveri fiduciari verso l'azienda e ricercatrice accademica con doveri intellettuali verso il pubblico — è uno dei motivi per cui il modello di governance di OpenAI, con board indipendenti scelti per la loro voce critica, si è rivelato instabile.

Il TED Talk e la fase post-OpenAI

Nel maggio 2024 Toner ha tenuto un TED Talk dal titolo eloquente: "How to govern AI — even if it's hard to predict." È diventato uno dei talk più visti sul tema della governance AI. La tesi centrale: anche se non possiamo prevedere esattamente come si svilupperà l'AI nei prossimi anni, possiamo costruire strutture istituzionali resilienti, capaci di adattarsi mentre la tecnologia evolve. Non serve aspettare la chiarezza tecnica per cominciare la regolazione — anzi, aspettare è essa stessa una scelta.

Nei mesi successivi Toner ha partecipato a numerose interviste pubbliche, tra cui il podcast Hard Fork del New York Times con Kevin Roose e Casey Newton, e contributi a The Atlantic e Foreign Affairs. Il suo messaggio è stato consistente: serve transparency strutturale da parte dei laboratori AI, serve un ruolo del governo non ostile all'innovazione ma neanche dipendente dall'industria per le proprie informazioni, e serve cooperazione bilaterale Stati Uniti–Cina almeno sui rischi catastrofici.

La prospettiva non-Silicon Valley

Quello che distingue Toner da molte altre voci pubbliche sull'AI è la sua estraneità all'ecosistema di San Francisco. Non è una founder, non ha equity in aziende AI, non vive nella bolla culturale della Bay Area. Australiana di formazione, basata a Washington D.C. per il suo lavoro al CSET, ha vissuto in Cina, parla mandarino. Quando dice che la sua perspective è geopolitica e accademica, non è retorica — è il suo background materiale.

Questo le consente di articolare critiche che ai founder e ai dirigenti tech sarebbe difficile fare pubblicamente. Ha detto apertamente che la concorrenza tra USA e Cina sulla AI è reale ma viene spesso usata strumentalmente per giustificare la riduzione delle precauzioni di safety domestiche. Ha messo in dubbio che le voluntary safety commitment delle aziende — come quelli firmati al Bletchley Summit — siano sufficienti senza enforcement legale. Ha sostenuto che il modello "ci autoregoliamo" non ha funzionato in altre industrie e non funzionerà neanche in AI.

Perché ascoltarla

Toner è oggi una delle poche persone che possono parlare con autorevolezza sia dal punto di vista tecnico sia da quello politico, senza essere legata agli interessi commerciali di un singolo laboratorio. Ha visto l'AI dall'interno — non come ingegnera, ma come decision maker al massimo livello in OpenAI — e ne è uscita disillusa rispetto alla capacità del settore di autogovernarsi. Le sue posizioni sono moderate rispetto a chi predica l'AI doom, ma più severe rispetto a chi sostiene che le aziende stiano facendo già abbastanza.

Per chi voglia formarsi un'opinione informata sulla governance dell'AI senza dover scegliere tra l'iperottimismo dei founder e l'allarmismo apocalittico, Toner è uno dei punti di riferimento più solidi. I suoi articoli sul CSET, il TED Talk del 2024 e le sue apparizioni nei podcast specializzati sono il modo migliore per entrare in contatto con la sua perspective. Non sono letture rapide — il valore di Toner è proprio nella complessità, non nelle soundbite.

---