Meta lancia Llama 3.3 70B — prestazioni da 405B a un sesto del costo
In una frase Llama 3.3 70B raggiunge le prestazioni di Llama 3.1 405B sulla maggior parte dei benchmark con 6x meno compute, contesto 128K e licenza Apache 2.0.
Meta ha sorpreso la comunità AI con un modello da 70 miliardi di parametri che funziona quasi quanto il loro molto più grande modello da 405 miliardi in molti compiti. È come un'auto sportiva che va quasi veloce quanto una supercar ma consuma sei volte meno carburante. Questo è enorme per aziende e sviluppatori: si può eseguire un modello open di primissimo livello su hardware molto più economico. La finestra di contesto da 128.000 token consente di leggere e ragionare su documenti lunghi in un colpo solo. La licenza Apache 2.0 significa che chiunque — incluse le aziende — può usarlo, modificarlo e distribuirlo liberamente.
Aziende
Meta
Tool
Llama 3.3, Ollama
Tag
Fonti