Llama 4: Meta passa a MoE e multimodale nativo, ma la community accoglie con freddezza

In una frase Meta rilascia Llama 4 Scout (17B attivi/109B totali) e Maverick (17B/400B), MoE multimodali con 10M context per Scout. Behemoth (2T) in training. Risultati benchmark contestati dalla community.

Da rivedere Fonte ufficiale

CondividiLinkedIn X

Meta passa a Llama 4 con un cambio di architettura importante: per la prima volta usa Mixture-of-Experts, come DeepSeek e Mistral. Tre modelli annunciati:

Scout: il piccolo, 109 miliardi di parametri totali ma solo 17 miliardi attivi. Promette 10 milioni di token di contesto (Meta dichiara "industry leading");
Maverick: il medio, 400 miliardi totali, 17 attivi. Pensato come "lavoratore" generale;
Behemoth: il gigante, 2 trilioni di parametri, ancora in training all'annuncio.

I problemi: subito dopo il rilascio, sviluppatori indipendenti testano e trovano performance reali sotto le dichiarazioni Meta. La versione su LMArena risulta una "variante sperimentale" diversa da quella sui pesi pubblici. Si apre dibattito su benchmark gaming e fiducia nei numeri dei vendor.