Gorilla: LLaMA fine-tuned che chiama le API senza sbagliare
In una frase UC Berkeley presenta Gorilla, LLaMA fine-tuned con retrieval per chiamate API accurate: riduce l'hallucination sulle API dall'83% al 3%, superando GPT-4 su questo task.
Uno dei problemi più fastidiosi dei modelli linguistici è la loro tendenza a inventare API inesistenti o a chiamarle con parametri sbagliati. Se stai costruendo un agente che deve interagire con servizi reali, questo errore blocca tutto.
Gorilla è un modello LLaMA fine-tuned specificatamente per chiamare API in modo accurato. Invece di affidarsi solo alla memoria del training, usa un meccanismo di retrieval: cerca la documentazione aggiornata dell'API e la usa come contesto prima di generare la chiamata.
Il risultato è sorprendente: su un benchmark di oltre 1600 API (HuggingFace, TorchHub, TensorHub), Gorilla riduce gli errori dall'83% al 3%, superando persino GPT-4 su questo task specifico nonostante sia molto più piccolo.
Aziende
UC Berkeley, Microsoft Research
Tool
Gorilla, LLaMA, APIBench
Tag
Fonti