OWASP LLM Top 10: le 10 vulnerabilità critiche delle app basate su AI
In una frase OWASP pubblica la versione 1.0 della Top 10 per le applicazioni LLM: dieci categorie di rischio, da prompt injection a insecure output handling, scelte con il contributo di quasi 500 esperti.
OWASP è l'organizzazione che da vent'anni pubblica le liste delle vulnerabilità più pericolose nel software. Nel 2023 ha fatto lo stesso per le applicazioni basate su intelligenza artificiale, raccogliendo le 10 categorie di rischio più rilevanti per chi costruisce prodotti con LLM.
La lista va dalla prompt injection in testa, passando per il training data poisoning, l'insecure plugin design, fino all'eccessiva dipendenza dall'output AI senza verifiche umane. Ogni voce è accompagnata da esempi di scenari di attacco e da strategie di mitigazione.
Per i team di sviluppo è un riferimento comodo: prima di mettere in produzione un'app basata su un LLM, si può scorrere questa lista come si fa con la OWASP Top 10 classica per il web.
Aziende
OWASP
Tool
—
Tag
Fonti