Meta rilascia Llama 4.1: tre modelli MoE open source con finestra da 10 milioni di token

Immagina di avere tre operai specializzati invece di uno solo che deve fare tutto: questo è, in parole semplici, il segreto dietro i nuovi modelli di Meta. Llama 4.1 usa un'architettura chiamata Mixture of Experts (MoE): invece di attivare sempre tutta la rete neurale, ogni risposta viene elaborata solo da un sottoinsieme di "esperti" — un po' come in un grande ufficio dove ogni richiesta viene smistata al collega più adatto, senza disturbare gli altri.

Meta ha rilasciato tre versioni con caratteristiche molto diverse. Scout (17 miliardi di parametri, 16 esperti) è pensato per girare su dispositivi edge, quindi computer normali o hardware compatto, senza bisogno del cloud. Maverick (17B parametri, 128 esperti) è il modello intermedio, ma con una capacità straordinaria: riesce a tenere in memoria fino a 10 milioni di token, equivalenti a circa 7.500 pagine di testo, o un'intera base di codice aziendale. Behemoth (288 miliardi di parametri, 128 esperti) è il modello di frontiera, pensato per i laboratori di ricerca e i datacenter più potenti.

Tutti e tre capiscono testo, immagini e audio in modo nativo, senza bisogno di componenti aggiuntivi separati.

La cosa più importante? Sono rilasciati con licenza Apache 2.0, il che significa che chiunque — aziende, ricercatori, sviluppatori indipendenti — può usarli, modificarli e distribuirli liberamente, anche per uso commerciale, senza pagare royalty. È un passo enorme per tutto l'ecosistema open source dell'intelligenza artificiale, che si avvicina ulteriormente alle capacità dei modelli proprietari chiusi dei grandi provider cloud.