Mistral Nemo 12B: 128k context, drop-in replacement per Mistral 7B
In una frase Mistral AI e NVIDIA rilasciano Mistral Nemo 12B: 128k context window, addestrato con NeMo toolkit, pensato come sostituto diretto di Mistral 7B in produzione.
Mistral Nemo è un modello da 12 miliardi di parametri creato dalla collaborazione tra Mistral AI e NVIDIA. La caratteristica principale è una finestra di contesto enorme: 128.000 token, abbastanza per analizzare un intero romanzo o un codebase di medie dimensioni in una sola sessione.
È stato progettato esplicitamente per sostituire il precedente Mistral 7B nei sistemi in produzione, con un'architettura compatibile e prestazioni notevolmente migliori.
La collaborazione con NVIDIA ha portato ottimizzazioni specifiche per i chip H100 e A100 e per il framework NeMo, rendendolo pratico per deployment enterprise.
Aziende
Mistral AI, NVIDIA
Tool
Mistral Nemo 12B
Tag
Fonti