NIST AI Risk Management Framework — Il Manuale Americano per Gestire i Rischi AI

Cos'è: L'AI Risk Management Framework (AI RMF) 1.0 è un documento pubblicato dal NIST — National Institute of Standards and Technology del Dipartimento del Commercio USA — nel gennaio 2023. Non è una legge né un regolamento: è un framework volontario che aiuta organizzazioni pubbliche e private a identificare, valutare e gestire i rischi associati all'intelligenza artificiale. È diventato il documento di riferimento de facto per la governance AI negli Stati Uniti.

Cos'è il NIST e perché conta

Il National Institute of Standards and Technology è un'agenzia tecnica federale che esiste dal 1901. Il suo mandato originale era standardizzare pesi e misure; oggi produce standard e framework per cybersecurity, metrologia, manifattura avanzata e — sempre più — tecnologie digitali. Il framework di cybersecurity del NIST (CSF), pubblicato nel 2014, è diventato il documento di riferimento mondiale per la sicurezza informatica aziendale. Il NIST punta a fare lo stesso con l'AI RMF.

La forza del NIST sta nel suo metodo: i documenti vengono sviluppati attraverso anni di consultazione pubblica con industria, accademia e governo, raccogliendo centinaia di commenti da stakeholder globali. Il risultato è un framework che non impone una visione ideologica specifica ma cerca il consenso tecnico più ampio possibile.

Le quattro funzioni del framework

L'AI RMF si articola attorno a quattro funzioni principali, presentate come un ciclo continuo piuttosto che una sequenza lineare:

GOVERN — Creare la cultura del rischio

La funzione GOVERN riguarda le strutture organizzative, le politiche e i processi necessari per gestire il rischio AI in modo sistematico. Risponde alla domanda: "chi è responsabile di cosa?". Include la definizione di ruoli e responsabilità (chi decide se un sistema AI è abbastanza sicuro per essere deployato?), la creazione di meccanismi di accountability, e la costruzione di una cultura aziendale che valorizzi la trasparenza sui rischi. Senza una solida governance, le altre tre funzioni rimangono esercizi tecnici senza conseguenze pratiche.

MAP — Identificare i rischi nel contesto

La funzione MAP serve a capire il contesto in cui un sistema AI opera e a identificare i rischi specifici di quel contesto. Non tutti i rischi AI sono uguali: un sistema di raccomandazione per contenuti video ha profili di rischio completamente diversi da un sistema di diagnosi medica o da uno strumento di selezione del personale. MAP chiede: quale problema stiamo cercando di risolvere? Chi sono gli utenti e le parti interessate? Quali sono i possibili danni — per gli individui, per i gruppi, per la società? Come si potrebbero verificare failure modes?

MEASURE — Analizzare e valutare quantitativamente

La funzione MEASURE porta i rischi identificati in MAP nel dominio quantitativo: come si misurano? Quali metriche usare? Con quale frequenza valutare? Include tecniche come il testing avversariale (red-teaming), la valutazione della fairness su diversi gruppi demografici, il monitoraggio delle performance in deployment. Uno dei contributi più concreti del NIST è la lista di categorie di rischio che andrebbero misurate: accuratezza, affidabilità, sicurezza, resilienza, spiegabilità, privacy, fairness, accountability.

MANAGE — Rispondere ai rischi

La funzione MANAGE chiude il ciclo: una volta identificati e misurati i rischi, come si risponde? Include la definizione di soglie di accettabilità (oltre quale livello di rischio un sistema non dovrebbe essere deployato?), i piani di mitigazione, i processi di incident response quando qualcosa va storto, e la comunicazione trasparente sui rischi residui agli utenti e alle parti interessate.

Differenze dall'EU AI Act

Il confronto con l'EU AI Act è inevitabile, ma i due strumenti hanno natura e obiettivi diversi. L'AI Act europeo è una legge con categorie di rischio definite per tipo di applicazione (alto rischio, basso rischio, vietato) e obblighi specifici per ciascuna categoria. Il NIST AI RMF è un framework volontario basato sul tipo generico di rischio, indipendente dal settore d'uso.

L'approccio americano è più flessibile: le organizzazioni decidono come applicare il framework alla loro specifica situazione. L'approccio europeo è più prescrittivo: se il tuo sistema rientra in una categoria ad alto rischio, devi fare esattamente queste cose. Nessuno dei due è superiore in assoluto — riflettono filosofie regolatorie diverse.

Adozione: governo federale e Fortune 500

Nonostante la sua natura volontaria, l'AI RMF ha avuto un'adozione rapida e ampia. Il governo federale americano lo ha adottato come baseline per gli acquisti di sistemi AI: i fornitori che vogliono vendere tecnologie AI alla pubblica amministrazione americana devono dimostrare di aver considerato i rischi secondo la struttura del framework. Questo ha reso il documento quasi obbligatorio per una vasta fetta del mercato B2G.

Molte aziende Fortune 500 lo hanno adottato come punto di partenza per i loro programmi interni di AI governance, spesso combinandolo con altri standard (ISO, IEEE) e adattandolo al proprio contesto settoriale. La sua struttura modulare facilita questo tipo di adattamento.

Il NIST AI Safety Institute e la versione 2.0

Il NIST AI RMF è diventato anche la base intellettuale del NIST AI Safety Institute, istituito dopo l'Executive Order di Biden del 2023. L'AISI ha il mandato di sviluppare metodologie di valutazione per i modelli frontier — in pratica, un'estensione del framework alle situazioni più avanzate e rischiose dell'AI.

Nel 2024 è uscita la versione 2.0 del framework, con una significativa aggiunta: una sezione dedicata specificamente all'AI generativa, che affronta rischi peculiari dei grandi modelli linguistici come allucinazioni, uso per disinformazione, amplificazione di bias nei dati di training, e difficoltà di interpretabilità. La versione 2.0 include anche un "Generative AI Profile" come documento separato.

L'AI RMF è diventato uno degli strumenti più citati nella letteratura accademica e nei documenti di policy sull'AI governance. La sua influenza si estende ben oltre i confini degli USA: organizzazioni in Europa, Asia e America Latina lo usano come riferimento, talvolta combinandolo con i requisiti locali. È uno di quei documenti tecnici che, pur non avendo forza di legge, modellano il modo in cui un'intera industria pensa a un problema.

---