Vicuna-13B: il chatbot open che raggiunge il 90% di ChatGPT
In una frase LMSYS fa il fine-tuning di LLaMA-13B su 70.000 conversazioni ShareGPT e ottiene un chatbot open-source che GPT-4, usato come giudice, valuta al 90% della qualità di ChatGPT.
Fino alla primavera del 2023, avere un chatbot bravo come ChatGPT sembrava impossibile senza accedere alle API di OpenAI. Un gruppo di ricercatori dell'Università di Berkeley ha dimostrato che non è così.
Hanno preso LLaMA, il modello che Meta aveva reso disponibile ai ricercatori, e lo hanno "addestrato ulteriormente" con 70.000 conversazioni reali copiate da ShareGPT — il sito dove le persone condividevano le loro chat con ChatGPT. Risultato: Vicuna, un chatbot che un giudice artificiale (GPT-4) valuta equivalente al 90% di ChatGPT nella qualità delle risposte.
La lezione importante non è solo il numero: è che la qualità dei dati vale più della quantità. 70.000 conversazioni scelte bene valgono più di milioni di testi generici. Vicuna ha aperto gli occhi a tutti su quanto fosse fattibile costruire un chatbot capace con risorse limitate.
Aziende
LMSYS
Tool
—
Tag
Fonti