California SB 1047 — La Legge AI più Discussa d'America che Non è Diventata Legge

Cos'è: SB 1047, il "Safe and Secure Innovation for Frontier Artificial Intelligence Models Act", è un disegno di legge introdotto dal senatore Scott Wiener in California nel 2023. Richiedeva ai developer di modelli AI addestrati con più di $100 milioni di compute di condurre safety testing obbligatorio, implementare meccanismi di shutdown, e assumere responsabilità civile per danni causati dai propri modelli. È passato entrambe le camere del parlamento californiano prima di essere vetato dal governatore Gavin Newsom nel settembre 2024.

Cosa prevedeva il disegno di legge

SB 1047 si concentrava sui modelli di frontiera — quelli addestrati con oltre 100 milioni di dollari di compute, una soglia calibrata per intercettare i sistemi più grandi e potenzialmente pericolosi senza vincolare lo sviluppo di modelli più piccoli. Le disposizioni principali riguardavano tre aree.

Prima area: obblighi di safety testing pre-deployment. Prima di rilasciare un modello covered (sopra la soglia di compute), il developer doveva condurre e documentare valutazioni di rischio specifiche, includendo testing per capability pericolose come la capacità di assistere nella produzione di armi di distruzione di massa, di condurre attacchi informatici su infrastrutture critiche, o di agire autonomamente in modi che causino danni significativi. La documentazione doveva essere resa disponibile all'Attorney General della California su richiesta.

Seconda area: kill switch e misure di controllo. I developer dovevano implementare e mantenere la capacità di disabilitare il modello o versioni deployate di esso. Questo include sia il modello originale che i fine-tune dei modelli base — una disposizione particolarmente controversa, perché i modelli open source, una volta rilasciati, non possono essere disabilitati dal developer originale.

Terza area: responsabilità civile. Se un modello covered causava "critical harms" — morte, lesioni gravi, danni a infrastrutture critiche, danni economici oltre una certa soglia — il developer poteva essere ritenuto civilmente responsabile se non aveva rispettato le procedure di safety testing previste dalla legge. Questa disposizione era particolarmente significativa: spostava l'incentivo dai developer dall'irresponsabilità organizzata (fare il minimo indispensabile e sperare che non succeda niente) verso la diligenza documentata.

Il fronte dei sostenitori: safety researcher e premi Nobel

SB 1047 ha ricevuto il supporto di alcune delle voci più autorevoli nella comunità AI safety. Geoffrey Hinton, il "padrino dell'AI" che aveva lasciato Google nel 2023 per poter parlare liberamente dei rischi dell'AI (poi Nobel per la Fisica 2024), ha sostenuto esplicitamente il disegno di legge. Yoshua Bengio, co-vincitore del Turing Award e fondatore del Montreal Institute for Learning Algorithms, ha scritto lettere aperte in suo favore.

Dan Hendrycks, direttore del Center for AI Safety e co-autore di alcuni dei benchmark di valutazione più usati nel campo, ha fornito supporto tecnico alla drafting del disegno di legge. La sua posizione: il testing obbligatorio su modelli frontier è il minimo ragionevole per un'industria che sta sviluppando sistemi con capacità potenzialmente pericolose senza alcun oversight esterno.

Il supporto veniva da una coalizione eterogenea: ricercatori accademici preoccupati per i rischi a lungo termine, organizzazioni di sicurezza informatica preoccupate per il rischio di cyberweapons AI-assisted, e gruppi di lavoro su biohazard preoccupati per l'uso di AI nella progettazione di agenti patogeni.

Il fronte degli oppositori: OpenAI, Google, Anthropic e il mondo VC

L'opposizione a SB 1047 è stata finanziariamente massiccia e retoricamente sofisticata. OpenAI, Google, e — con posizione più sfumata ma comunque contraria — Anthropic si sono opposte al disegno di legge. Andreessen Horowitz (a16z), uno dei venture capital fund più influenti nella Silicon Valley, ha condotto una campagna attiva contro il disegno di legge.

L'argomento principale degli oppositori era quello della giurisdizione sbagliata: regolamentare i modelli invece delle applicazioni è come regolamentare la stampa tipografica invece dei libri. Un modello AI è uno strumento; i danni reali vengono dalle applicazioni specifiche, che sono già soggette a leggi esistenti su frode, violenza, hacking. SB 1047 creerebbe incertezza legale su ogni sistema che usa un modello covered — anche applicazioni completamente innocue.

L'argomento sulla competitività geopolitica era altrettanto prominente: la California ospita la maggior parte dei laboratori AI frontier americani. Una legge che impone oneri di compliance significativi ai developer californiani danneggerà l'ecosistema americano senza fermare lo sviluppo cinese, dove non si applica nessuna di queste restrizioni. Il risultato netto sarebbe un trasferimento di vantaggio competitivo, non una riduzione del rischio globale.

Un argomento più tecnico, sollevato da Anthropic tra gli altri: le soglie basate sul compute di training non sono una proxy affidabile per il rischio. Un modello addestrato con $50M può essere più capace e pericoloso di uno addestrato con $150M, a seconda dell'efficienza dell'architettura e della qualità dei dati. La legge crea incentivi perversi — spendere meno di $100M è una scappatoia legale, non un indicatore di sicurezza.

Il veto di Newsom: settembre 2024

Il 29 settembre 2024, il governatore Gavin Newsom ha apposto il veto a SB 1047. La motivazione nella lettera di veto è stata elaborata e politicamente sofisticata — non un rifiuto ideologico della regolamentazione AI, ma una critica tecnica specifica al disegno di legge.

Newsom ha argomentato che SB 1047 si concentrava sul potenziale rischio ipotetico di modelli non ancora esistenti piuttosto che sui rischi reali e documentati dei sistemi AI attuali. Le soglie basate sul compute erano, nella sua valutazione, un proxy troppo grezzo. Il requisito di testing per capability pericolose — come la produzione di bioweapons — era difficile da standardizzare e verificare in modo che la legge potesse essere applicata coerentemente.

Contestualmente, Newsom ha firmato altri 17 disegni di legge relativi all'AI nello stesso periodo — molti dei quali si concentravano su rischi specifici e documentati come il deepfake nelle campagne elettorali, la trasparenza negli algoritmi di moderazione dei contenuti, e le tutele per i lavoratori sostituiti dall'automazione. Il messaggio politico era chiaro: regolamentazione sì, ma mirata alle applicazioni e ai danni reali, non ai modelli base.

Il precedente e il futuro della regolamentazione AI statale

La storia di SB 1047 — dall'introduzione al veto — ha attraversato circa 18 mesi di dibattito pubblico che hanno costretto l'intera industria AI americana a articolare esplicitamente le proprie posizioni sulla regolamentazione. In questo senso, anche il veto ha avuto un effetto: ha reso pubblico e documentato chi si oppone a cosa, con quali argomenti, e con quanto potere lobbying.

Il tema della regolamentazione statale dell'AI negli USA non è chiuso. Decine di stati hanno introdotto o stanno studiando legislazione simile. Il dibattito SB 1047 ha creato un vocabolario comune — compute threshold, capability evaluation, civil liability, kill switch — che riappare in altre proposte legislative. Ha anche chiarito la frattura tra la comunità safety e l'industria AI mainstream su una questione fondamentale: chi deve avere il burden of proof — deve essere il developer a dimostrare che il modello è sicuro prima del deployment, o deve essere il regolatore a dimostrare il danno dopo?

SB 1047 scommetteva sulla risposta safety-first. Il veto ha temporaneamente risposto: non ancora, non così. Ma la domanda rimane aperta.

---