MITRE ATLAS v2: la tassonomia degli attacchi AI aggiornata con casi reali
In una frase MITRE rilascia ATLAS v2 (Adversarial Threat Landscape for AI Systems), tassonomia estesa delle tecniche di attacco ai sistemi AI con casi studio reali di adversarial ML e mapping a MITRE ATT&CK.
MITRE ATT&CK è il catalogo standard che i team di sicurezza usano per descrivere come gli hacker attaccano i sistemi IT. MITRE ATLAS fa lo stesso per i sistemi di intelligenza artificiale: elenca e classifica tutte le tecniche note per attaccare, ingannare o manipolare modelli AI.
La versione 2 aggiunge casi studio reali documentati: attacchi adversarial a sistemi di riconoscimento immagini in produzione, evasione di rilevatori di malware basati su ML, manipolazione di raccomandatori tramite data poisoning.
Per un team di sicurezza, avere un linguaggio comune per descrivere "abbiamo subito un attacco di tipo reconnaissance su un modello ML" è lo stesso vantaggio che ATT&CK ha dato per le minacce tradizionali: facilita la comunicazione, il threat modeling e la risposta agli incidenti.
Aziende
MITRE
Tool
MITRE ATLAS
Tag
Fonti