Mistral lancia Devstral Small: modello di coding da 7B che gira su GPU consumer

Immagina di avere un assistente programmatore sempre disponibile sul tuo computer, senza dover pagare abbonamenti o inviare il codice a server remoti. Fino a poco tempo fa, i modelli di intelligenza artificiale davvero capaci di scrivere e ragionare sul codice richiedevano hardware potentissimo, accessibile solo a grandi aziende o laboratori di ricerca.

Mistral AI ha cambiato le carte in tavola con Devstral Small: un modello da 7 miliardi di parametri pensato appositamente per aiutare gli sviluppatori in compiti di programmazione complessi. La cosa straordinaria è che funziona su una GPU consumer con soli 8GB di memoria video, il tipo di scheda grafica che molti appassionati e professionisti hanno già nel proprio PC.

Devstral non si limita a completare righe di codice: è progettato per compiti agentivi, cioè sa ragionare su problemi articolati, esplorare una codebase, proporre soluzioni in più passaggi e interagire con strumenti esterni. In pratica, si comporta più come un collega sviluppatore che come un semplice suggeritore di testo.

I risultati sui benchmark sono sorprendenti: su SWE-bench, uno dei test più usati per valutare la capacità di risolvere bug reali in progetti open source, Devstral Small supera GPT-4o-mini di OpenAI, un modello cloud che richiede connessione internet e a pagamento.

Il modello è disponibile gratuitamente su Ollama, HuggingFace e in formato GGUF, quindi si integra facilmente in strumenti già diffusi come Continue, Aider o LM Studio. Per chi vuole mantenere il proprio codice privato, girare tutto in locale senza dipendere da API esterne, oppure lavorare in ambienti senza connessione a internet, Devstral Small è oggi il punto di riferimento nella sua fascia di dimensioni.