Seoul AI Summit 2024 — La Continuazione di Bletchley e i 16 Impegni Volontari delle AI Companies

Cos'è: Il Seoul AI Summit del 21-22 maggio 2024 è il secondo dei summit globali sulla sicurezza AI, co-ospitato dal Regno Unito e dalla Repubblica di Corea. È la continuazione diretta del Bletchley Park Summit del novembre 2023, ed è stato pensato per trasformare le aspirazioni politiche di Bletchley in impegni più concreti. I due risultati principali: la Seoul Declaration firmata da 27 paesi più l'UE, e i Frontier AI Safety Commitments sottoscritti da 16 delle principali aziende AI mondiali.

Da Bletchley a Seoul: cosa è cambiato in sei mesi

Bletchley nel novembre 2023 era stato un evento simbolico: la prima volta in cui 28 paesi (USA e Cina inclusi) firmavano insieme un documento sui rischi dell'AI avanzata. La sua forza era diplomatica più che operativa — un riconoscimento condiviso del problema, senza impegni vincolanti né meccanismi di enforcement.

Seoul aveva un obiettivo diverso: produrre output più operativi. Co-ospitato dal Regno Unito (che mantiene il ruolo guida del processo) e dalla Corea del Sud (che rappresenta un partner asiatico non-cinese forte nell'industria AI), il summit ha cercato di trasformare le aspirazioni di Bletchley in commitment concreti, almeno volontari, da parte sia dei governi sia delle aziende.

La Seoul Declaration: 27 paesi più UE

La Seoul Declaration on Safe, Innovative and Inclusive AI è stata firmata da 27 paesi più l'Unione Europea. La lista include i principali attori globali — USA, UK, Francia, Germania, Italia, Giappone, Corea, India, Australia, Canada, Singapore — più paesi emergenti come Indonesia, Filippine, Nigeria, Rwanda, Brasile, Cile.

Notevole l'assenza della Cina tra i firmatari della Seoul Declaration. Pechino aveva firmato la Bletchley Declaration nel 2023, ma per Seoul ha scelto un livello di partecipazione inferiore: presenza diplomatica ma non sottoscrizione del documento finale. Il messaggio diplomatico è che la cooperazione USA-Cina sul tema, sempre fragile, si era ulteriormente indebolita.

La Seoul Declaration introduce tre concetti chiave nel framing politico dell'AI: safety, innovation, inclusion. Bletchley si era concentrata quasi esclusivamente sul primo — i rischi. Seoul aggiunge esplicitamente l'innovazione (per non perdere i paesi che temono la sovra-regolazione) e l'inclusione (per dare voce ai paesi emergenti che temono di restare esclusi dai benefici dell'AI). È un riallineamento retorico che riflette la pressione politica accumulatasi nei sei mesi precedenti.

I Frontier AI Safety Commitments: 16 aziende

L'output più tangibile del summit è stato l'impegno sottoscritto da 16 grandi aziende AI: i Frontier AI Safety Commitments. La lista include praticamente tutti i principali laboratori frontier al mondo: OpenAI, Anthropic, Google DeepMind, Meta, Microsoft, xAI, Mistral AI, IBM, Amazon, Inflection AI, Cohere, Naver, Samsung Electronics, Technology Innovation Institute (Emirati), Zhipu AI (Cina).

Le 16 aziende si sono impegnate volontariamente a tre cose principali:

Primo, pubblicare un Responsible Scaling Policy entro il successivo AI Action Summit di Parigi (febbraio 2025). Un RSP è un documento aziendale che descrive quali capacità un modello deve avere per essere considerato "pericoloso", quali misure di safety l'azienda implementerà a ogni livello, e in quali condizioni l'azienda si fermerebbe nello sviluppo. Anthropic aveva già pubblicato il proprio RSP nel settembre 2023, e i Frontier AI Safety Commitments lo hanno reso uno standard de facto.

Secondo, definire thresholds di rischio oltre i quali un modello non viene rilasciato senza ulteriori safeguards. Questo significa identificare a priori che certe capacità (es. assistenza alla creazione di armi biologiche, autonomous replication, manipolazione su larga scala) sarebbero motivo di stop.

Terzo, sottoporsi a valutazioni di terzi indipendenti — ad esempio dei rispettivi AI Safety Institute — prima del rilascio dei modelli più potenti.

Il Network Internazionale degli AI Safety Institute

Il secondo risultato istituzionale è stato l'annuncio del International Network of AI Safety Institutes: una rete che collega l'AI Safety Institute britannico (nato da Bletchley), il NIST AI Safety Institute americano, e gli enti equivalenti di Singapore, Giappone, Francia, Canada, Corea, Kenya, Australia e UE.

Il network ha il mandato di condividere metodologie di valutazione, coordinare red-team su modelli frontier, scambiare risultati di safety research e parlare con voce coordinata ai laboratori AI. Non è un'autorità regolatoria sovrastatuale — non può imporre obblighi — ma rappresenta il primo tentativo serio di costruire infrastruttura tecnica condivisa per la governance AI a livello internazionale.

Tra Bletchley e Seoul è inoltre nato il primo International Scientific Report on the Safety of Advanced AI, presieduto da Yoshua Bengio, con il contributo di 75 esperti di 30 paesi. Un report interim è stato presentato a Seoul, con la versione completa attesa per il summit successivo. È stato esplicitamente modellato sull'IPCC per il clima — l'idea di costruire una base scientifica condivisa che informi le decisioni politiche.

Cosa Seoul ha cambiato rispetto a Bletchley

Bletchley era un evento sufficiente per il momento storico in cui si è tenuto — primo summit globale, in piena onda di ChatGPT, con un mondo che ancora cercava di capire cosa fosse l'AI generativa. Seoul ha potuto essere più ambizioso perché il terreno era già stato preparato.

I tre cambiamenti più significativi: dalle aspirazioni politiche generali agli impegni specifici delle aziende; dall'attenzione esclusiva al safety all'inclusione di innovation e equità; dall'evento singolo a un processo strutturato con prossimi appuntamenti già calendarizzati.

Allo stesso tempo, i limiti di Seoul restano simili a quelli di Bletchley: gli impegni sono volontari, non c'è enforcement, l'assenza della Cina indebolisce la dimensione di governance globale, e l'attenzione è quasi esclusivamente sui modelli frontier (i più grandi e potenti) mentre molti rischi reali — bias algoritmico, disinformazione, surveillance — operano su modelli più piccoli e meno spettacolari.

Verso Parigi 2025 e oltre

Seoul ha previsto un seguito: il AI Action Summit di Parigi del 10-11 febbraio 2025, co-ospitato da Francia e India. Il framing è cambiato: da "AI Safety Summit" (Bletchley, Seoul) a "AI Action Summit" — più orientato all'azione, meno al safety. La Francia, ospite, ha voluto un summit che parli anche di sviluppo, lavoro, accesso ai benefici dell'AI, non solo dei rischi.

Il summit di Parigi è arrivato in un momento di nuova divergenza geopolitica: a tre settimane dall'inaugurazione di Trump e dalla revoca dell'EO Biden, il processo internazionale di governance AI si è trovato di fronte a un'amministrazione americana ostile alla "safety-first" agenda. Seoul ha rappresentato in retrospettiva l'apice del consenso transatlantico — un consenso che a Parigi era già più fragile.

La domanda aperta dopo Seoul resta: questi summit sono il primo passo verso una struttura permanente di governance AI globale — qualcosa di simile a IAEA per il nucleare o IPCC per il clima — o sono eventi diplomatici che generano dichiarazioni senza poter influire materialmente su come si sviluppa la tecnologia? La risposta dipenderà in larga parte da quanto i Frontier AI Safety Commitments del 2024 verranno effettivamente rispettati dalle 16 aziende firmatarie negli anni successivi.

---