NIST AI 600-1: il profilo dell'AI RMF dedicato all'AI generativa
In una frase NIST pubblica AI 600-1, profilo trasversale e risorsa complementare dell'AI Risk Management Framework per l'AI generativa, previsto dall'Executive Order 14110: individua 12 rischi propri o aggravati dalla GenAI e propone azioni per gestirli.
Il framework generale del NIST per la gestione del rischio AI (AI RMF) vale per qualsiasi sistema AI. L'AI generativa, quella che produce testo, immagini o codice, porta però rischi propri che meritano un trattamento specifico.
Il 26 luglio 2024 NIST ha pubblicato AI 600-1, un "profilo" dell'AI RMF dedicato all'AI generativa, preparato in attuazione dell'Executive Order 14110 del presidente Biden. È un documento volontario di 64 pagine che elenca 12 rischi propri dell'AI generativa o aggravati da essa, tra cui le confabulazioni (il modello afferma con sicurezza cose false), i rischi per la privacy, la sicurezza informatica, la proprietà intellettuale e l'integrità dell'informazione.
Per ogni rischio il documento suggerisce azioni concrete, organizzate secondo le funzioni dell'AI RMF, che le organizzazioni possono adottare per rendere più affidabili i propri prodotti e servizi.
Aziende
NIST
Tool
—
Tag
Fonti