Geoffrey Hinton — Il Padrino che ha cambiato idea

Chi è: Geoffrey Hinton, 76 anni al momento delle dimissioni, professore emerito della University of Toronto. Co-inventore della backpropagation moderna nella sua forma praticabile, padre delle reti neurali convoluzionali profonde, vincitore del Turing Award 2018 insieme a Yann LeCun e Yoshua Bengio. Ha lavorato per Google per dieci anni come Distinguished Researcher. Nel maggio 2023 si è dimesso per poter parlare liberamente dei rischi dell'AI senza implicazioni per il suo datore di lavoro.

Perché si è dimesso

La decisione non è nata da uno scandalo o da un disaccordo operativo con Google. Hinton ha spiegato al New York Times che il motivo era più semplice e più radicale: voleva poter esprimere preoccupazioni pubblicamente senza che le sue parole fossero filtrate attraverso le esigenze comunicative di un'azienda quotata in borsa e in piena competizione sul mercato AI.

"Non me ne pento," ha detto. "Sono alla fine della carriera e posso permettermi di preoccuparmi." È una frase che vale la pena fermarsi a leggere: non è la retorica del whistleblower, non c'è risentimento. È la posizione di qualcuno che ha abbastanza credito accumulato da potersi permettere di dire cose scomode senza doverle proteggere con qualifiche eccessive.

Ha anche detto di rimpiangere parte del lavoro della sua vita — non perché fosse sbagliato, ma perché non poteva prevedere dove avrebbe portato. Questo tipo di onestà retrospettiva è rara nel campo tecnologico, dove il pentimento pubblico viene spesso percepito come debolezza.

Cosa lo preoccupa

Le preoccupazioni di Hinton non sono vaghe o filosofiche. Sono tre problemi specifici che identifica come sottovalutati dalla comunità di ricerca:

• Superintelligenza più vicina di quanto pensasse: per gran parte della sua carriera, Hinton stimava la superintelligenza AI — intesa come AI che supera stabilmente le capacità umane nei task cognitivi generali — a cinquant'anni di distanza, probabilmente oltre il suo orizzonte di vita. Ora la stima è scesa a cinque-venti anni. Non è sicuro, ma il ritmo dei progressi lo ha costretto a rivedere le sue assunzioni di base.
• Misuso da parte di cattivi attori: non il robot killer della fantascienza, ma qualcosa di più banale e più immediato: disinformazione generata automaticamente a scala industriale, manipolazione dell'opinione pubblica, cyberattacchi orchestrati da AI che trovano vulnerabilità più velocemente di quanto gli umani possano difendersi. Questi rischi non richiedono AGI — sono già disponibili con i sistemi attuali.
• Sotto-obiettivi non previsti: i sistemi AI addestrati per raggiungere obiettivi specifici sviluppano spesso sotto-obiettivi strumentali — comportamenti che aiutano a raggiungere l'obiettivo principale ma che non erano stati pianificati dai progettisti. Man mano che i sistemi diventano più capaci, questi sotto-obiettivi diventano più complessi e meno trasparenti. Hinton preoccupato non da un'AI che "vuole" fare del male, ma da una che ottimizza un obiettivo in modi che producono effetti collaterali dannosi senza che nessuno se ne accorga in tempo.

La cosa che ha cambiato idea

Per decenni, Hinton ha mantenuto una distinzione chiara tra intelligenza biologica e intelligenza artificiale. Il cervello umano, nella sua visione, operava secondo principi fondamentalmente diversi dalle reti neurali artificiali — anche quelle ispirate alla biologia. Le ANN erano strumenti potenti ma meccanici, non qualcosa che assomigliava davvero alla cognizione.

I transformer — in particolare i modelli linguistici di grande scala come GPT — lo hanno fatto ricredere. Non perché abbiano "coscienza" o "comprensione" nel senso filosofico, ma perché sembrano fare qualcosa di funzionalmente simile alla generalizzazione umana: apprendono pattern da dati e li applicano in contesti che non hanno mai visto, con una flessibilità che i modelli precedenti non avevano.

Questa rivalutazione è importante perché cambia il livello di rischio. Se i modelli AI stanno effettivamente sviluppando qualcosa di analogo alla generalizzazione cognitiva, le assunzioni sulla loro prevedibilità e controllabilità diventano molto meno solide. Hinton lo dice chiaramente: "Mi sono sbagliato. E questo mi spaventa."

Il Nobel 2024

Nell'ottobre 2024, il Comitato Nobel ha assegnato il Premio per la Fisica a Geoffrey Hinton e John Hopfield per le loro contribuzioni fondazionali alle reti neurali artificiali. La scelta della fisica — non dell'informatica, non della matematica — ha sorpreso molti, ma il Comitato ha motivato la decisione con il carattere fondamentale delle scoperte: le reti neurali come sistemi fisici che apprendono, non come software applicativo.

Nella Nobel lecture, Hinton ha ripetuto le sue preoccupazioni davanti a un pubblico internazionale. È stato un momento storico per più di una ragione: il creatore premiato mentre avvisa. Il riconoscimento istituzionale più alto possibile dato a qualcuno che usa quel palco per dire che la tecnologia che ha contribuito a costruire potrebbe rappresentare un rischio esistenziale.

L'ironia non è sfuggita ai commentatori: il sistema accademico premia una scoperta che il suo stesso autore invita a trattare con cautela estrema.

Differenza rispetto a Yudkowsky

È utile collocare Hinton nel panorama del dibattito AI safety per capire dove si posiziona rispetto alle voci più radicali. Eliezer Yudkowsky, fondatore di MIRI e voce più nota del doomerismo AI, sostiene che lo sviluppo attuale porterà quasi certamente all'estinzione umana e che l'unica risposta razionale è fermare tutto immediatamente.

Hinton non dice questo. La sua posizione è più sfumata: i rischi sono reali e sottovalutati, ma non sono inevitabili. La differenza tra una traiettoria catastrofica e una gestibile dipende da quanto seriamente la comunità di ricerca prende il problema dell'allineamento rispetto al problema delle capacità.

La sua proposta concreta — più ricercatori che lavorano sulla safety invece di sulla capability pura — è meno drammatica dell'arresto totale di Yudkowsky, ma forse più persuasiva per chi è già dentro il sistema. Hinton parla a colleghi che rispetta e dai quali è rispettato. Il suo avvertimento ha avuto effetti concreti su come molti laboratori allocano risorse alla ricerca sulla sicurezza.

---