MITRE e Microsoft aggiornano ATLAS con un focus sulla AI generativa
In una frase MITRE e Microsoft aggiungono alla knowledge base ATLAS un focus sulla AI generativa: nuove tattiche e tecniche per i sistemi basati su LLM e casi studio di incidenti del 2023 come il leak dei plugin di ChatGPT e PoisonGPT.
MITRE ATT&CK è il catalogo che i team di sicurezza usano per descrivere come gli attaccanti colpiscono i sistemi IT. MITRE ATLAS fa lo stesso per i sistemi di intelligenza artificiale: classifica le tecniche note per attaccare, ingannare o manipolare modelli AI e raccoglie casi studio reali.
Il 6 novembre 2023 MITRE annuncia, insieme a Microsoft, un aggiornamento dedicato alla AI generativa: nuove tattiche e tecniche ricavate da incidenti del 2023 che coinvolgono sistemi basati su LLM, nuovi casi studio e un lavoro comune su condivisione di incidenti e vulnerabilità.
Aziende
MITRE, Microsoft
Tool
MITRE ATLAS
Tag
Fonti
- https://www.mitre.org/news-insights/news-release/mitre-and-microsoft-collaborate-address-generative-ai-security-risks
- https://www.securityinfowatch.com/cybersecurity/press-release/53077388/mitre-and-microsoft-collaborate-to-address-generative-ai-security-risks
- https://www.helpnetsecurity.com/2023/11/06/mitre-microsoft-partnership/