EU AI Act — cosa dice davvero il primo regolamento AI al mondo

Chi è: L'AI Act è il Regolamento (UE) 2024/1689 del Parlamento Europeo e del Consiglio. Approvato dal Parlamento Europeo il 13 marzo 2024. Primo regolamento AI vincolante al mondo. Preparato dalla Commissione dal 2021, negoziato per tre anni con le istituzioni UE e gli stati membri. Entrata in vigore: 2 agosto 2024. Applicazione graduale: divieti in vigore da febbraio 2025, regole GPAI da agosto 2025, resto da agosto 2026.

L'approccio risk-based

L'AI Act non regola l'AI in generale: classifica i sistemi AI per rischio. Quattro categorie: (1) Rischio inaccettabile — vietati. (2) Alto rischio — permessi con obblighi. (3) Rischio limitato — obblighi di trasparenza. (4) Rischio minimo — nessuna regola specifica. La logica: non bloccare l'innovazione, ma garantire che i sistemi AI più impattanti siano affidabili.

L'approccio differisce nettamente da una regolamentazione orizzontale che si applica a tutta l'AI indistintamente. La Commissione Europea ha scelto di concentrare gli obblighi sui casi d'uso ad alto impatto — dove la decisione automatizzata può avere conseguenze dirette sulla vita delle persone — lasciando ampia libertà per le applicazioni a basso rischio. Questa scelta riflette la tensione politica centrale nel negoziato: come non affossare l'industria AI europea mentre si proteggono i diritti fondamentali. Il risultato è un testo complesso, con molte eccezioni e rinvii a standard tecnici che verranno definiti successivamente dagli organismi di normazione (CEN/CENELEC).

Pratiche vietate (rischio inaccettabile)

Sono vietati: sistemi di social scoring generalizzato (come quello cinese, che assegna punteggi ai cittadini in base al comportamento); manipolazione comportamentale subliminale o che sfrutta vulnerabilità di persone specifiche (età, disabilità, situazione economica); identificazione biometrica real-time in spazi pubblici per forze dell'ordine (con pochissime eccezioni: ricerca di minori scomparsi, prevenzione di attacchi terroristici imminenti, identificazione di sospettati per reati gravi); sistemi per inferire orientamento sessuale, politico, religioso da dati biometrici; polizia predittiva basata su profiling individuale. Queste pratiche sono vietate da febbraio 2025.

Il divieto di identificazione biometrica in tempo reale è uno dei punti più discussi del negoziato. Il Parlamento Europeo voleva un divieto totale; il Consiglio (i governi nazionali) ha insistito per le eccezioni di sicurezza pubblica. Il testo finale mantiene il divieto di principio con eccezioni definite — ma le eccezioni sono abbastanza ampie da preoccupare le organizzazioni per i diritti civili, che temono che vengano usate in modo estensivo. Il contenzioso giuridico su cosa costituisce esattamente un "attacco terroristico imminente" durerà anni.

Sistemi ad alto rischio — obblighi

Sono "alto rischio" i sistemi AI usati in: infrastrutture critiche (reti energetiche, trasporti, acqua); istruzione (valutazione degli studenti); occupazione (selezione del personale, gestione lavoratori); servizi pubblici essenziali (credito, assicurazioni, prestazioni sociali); sicurezza pubblica (componenti di sicurezza in prodotti regolamentati); giustizia (supporto a decisioni giudiziarie); gestione delle frontiere (analisi del rischio migranti); sistemi medici. Per questi sistemi si applicano obblighi sostanziali: registrazione in un database UE pubblico, documentazione tecnica obbligatoria, requisiti di trasparenza verso gli utenti, supervisione umana obbligatoria, test di robustezza e accuratezza, gestione formalizzata dei rischi durante tutto il ciclo di vita.

Il costo di conformità può essere significativo per le PMI — alcune stime parlano di €300.000-€400.000 per certificare un sistema ad alto rischio. Questo ha portato a critiche sull'effetto di concentrazione: le grandi aziende possono assorbire i costi di compliance, le startup no. Il legislatore europeo ha previsto misure di sostegno (regulatory sandboxes, semplificazioni per PMI), ma la loro efficacia pratica è ancora da verificare. La lista degli usi "ad alto rischio" è in un allegato separato, il che significa che può essere aggiornata dalla Commissione tramite atti delegati — senza passare dal Parlamento — un punto controverso sul piano democratico.

GPAI — General Purpose AI (i modelli foundation)

Il capitolo più controverso, aggiunto nelle fasi finali del negoziato per includere i modelli come GPT-4, Claude e Gemini. I modelli di AI per uso generale (GPAI — General Purpose AI models, ovvero i foundation models) hanno obblighi specifici: documentazione tecnica del modello, politica di copyright dei dati di training, conformità al diritto d'autore dell'UE (un punto direttamente puntato sulle controversie legali sui dataset di training).

I modelli con "rischio sistemico" — definito come capacità molto elevate, con training cumulativamente oltre 10^25 FLOP — hanno obblighi aggiuntivi significativi: red teaming obbligatorio prima del rilascio, incident reporting alle autorità EU, valutazione di sicurezza del modello, misure di cybersecurity. La soglia computazionale è stata criticata come arbitraria — non è chiaro perché 10^25 FLOP sia la soglia giusta — ma era necessario avere un numero concreto per rendere il regolamento applicabile. OpenAI, Google, Anthropic, Meta e i principali laboratori cinesi con accesso al mercato UE sono nel mirino di questa sezione. La governance dei modelli GPAI è affidata all'AI Office della Commissione Europea, un nuovo ente istituito nel 2024.

Le sanzioni

Il sistema sanzionatorio è strutturato su tre livelli. Violazione delle pratiche vietate: fino al 7% del fatturato mondiale annuo (o €35 milioni, se superiore). Violazione di altri obblighi per sistemi ad alto rischio o GPAI: fino al 3% del fatturato (o €15 milioni). Informazioni false alle autorità: fino all'1,5% del fatturato (o €7,5 milioni). Le PMI hanno tetti assoluti più bassi. Le autorità nazionali degli stati membri sono responsabili dell'enforcement per i sistemi ad alto rischio; l'AI Office europeo gestisce direttamente i modelli GPAI.

Il confronto con il GDPR è inevitabile: le sanzioni GDPR (fino al 4% del fatturato mondiale) hanno convinto Big Tech a investire seriamente nella compliance — Meta ha pagato $1,3 miliardi in un singolo caso. Le sanzioni AI Act sono simili, con la multa massima addirittura più alta per le pratiche vietate. L'efficacia dipenderà dalla volontà e dalla capacità degli stati membri di applicarle. L'esperienza del GDPR mostra che l'enforcement è stato disomogeneo tra i paesi — l'Irlanda (sede europea di molte Big Tech) è stata accusata di essere troppo permissiva.

Le critiche dall'industria e dalla ricerca

L'industria europea teme che l'AI Act renda le startup EU non competitive rispetto a USA e Cina, dove la regolamentazione è più permissiva o assente. Il manifesto di settembre 2023, firmato da CEO di startup europee tra cui Mistral AI, chiedeva di escludere i modelli foundation dagli obblighi più gravosi. Il capitolo GPAI è stato ammorbidito rispetto alla proposta iniziale, ma rimane più oneroso di quanto l'industria avrebbe voluto.

I ricercatori AI criticano aspetti tecnici: le definizioni di "rischio sistemico" sono vaghe; gli obblighi di documentazione non sono standardizzati a sufficienza per essere verificabili; le autorità di controllo non hanno ancora l'expertise tecnica necessaria per valutare sistemi complessi. I sostenitori del regolamento rispondono che la certezza giuridica è un vantaggio competitivo nel lungo periodo — le aziende sanno cosa devono fare per operare in UE — e che il mercato europeo da 450 milioni di consumatori è troppo grande per essere ignorato, costringendo anche i player non-EU a conformarsi.

Cosa cambia per chi lavora in AI in Italia

Per gli sviluppatori: se costruite sistemi AI usati in contesti ad alto rischio (selezione HR, medicina, giustizia, scoring creditizio), dovete conformarvi agli obblighi di trasparenza, documentazione tecnica e supervisione umana. I sistemi già in uso hanno periodi di transizione fino al 2027 per alcuni casi. Per le aziende che usano sistemi AI forniti da terze parti: verificare contrattualmente che i fornitori siano conformi e che forniscano la documentazione richiesta. Per chi distribuisce sistemi AI generativi: nuovi obblighi di marcatura (watermarking) dei contenuti AI-generated, in particolare per deepfake e per contenuti che simulano persone reali.

L'autorità di vigilanza in Italia non è ancora pienamente definita nel dettaglio attuativo: è probabile che la competenza sia divisa tra AgID per i sistemi della pubblica amministrazione e AGCOM per i sistemi che toccano media e comunicazione, con possibile sovrapposizione con il Garante Privacy. Il governo italiano non ha ancora istituito un coordinamento chiaro. Questo gap di governance nazionale è un rischio concreto: le sanzioni possono essere irrogate anche in assenza di una autorità nazionale strutturata, e la Commissione Europea può agire direttamente sui modelli GPAI.

---