Ollama 0.1: pull e run di LLM locali con un comando, ora anche su Linux
In una frase Il 23 settembre 2023 esce Ollama v0.1.0: dopo la preview per Mac di luglio, lo strumento per scaricare e avviare LLM in locale con un singolo comando arriva su Linux, con accelerazione GPU NVIDIA attiva di default.
Docker ha reso semplice avviare qualsiasi software con un comando, senza preoccuparsi di installare dipendenze. Ollama fa una cosa simile per i modelli AI: scrivi "ollama run llama2" e, dopo il download, hai un chatbot che risponde nel terminale.
La prima versione (v0.0.1, luglio 2023) era una preview. Con la v0.1.0 di settembre Ollama arriva anche su Linux e usa automaticamente la GPU NVIDIA, caricandoci la parte del modello che ci sta.
La semplicita' e' il punto di forza: nessuna installazione di Python, nessun virtual environment, nessuna configurazione manuale. In pochi mesi diventa uno degli strumenti piu' usati per i modelli locali.
Aziende
Ollama
Tool
Ollama
Tag
Fonti