NVIDIA a IFA 2026: llama.cpp fino a 1,9x su RTX 5090 e PAIR per distribuire l'inferenza in LAN
In una frase Il 3 settembre NVIDIA annuncia a IFA ottimizzazioni per l'AI locale (llama.cpp fino a 1,9x su RTX 5090, vLLM fino a 1,4x su due DGX Spark), setup locale in un clic per Hermes Agent e OpenClaw, e PAIR, router open source che smista le richieste di inferenza tra i PC di casa.
Alla fiera IFA di Berlino NVIDIA ha presentato un pacchetto di novità per far girare l'intelligenza artificiale direttamente sul proprio PC, senza passare dal cloud.
La prima riguarda la velocità: i programmi più usati per eseguire modelli in locale, come llama.cpp (che sta sotto LM Studio e Ollama), vanno fino a quasi il doppio più veloci sulle schede RTX 5090. La seconda è la semplicità: agenti come Hermes Agent e OpenClaw ora configurano da soli un modello locale adatto alla scheda video presente.
La terza è PAIR, uno strumento gratuito e open source che usa più computer della stessa rete come se fossero uno solo: se un PC è occupato, la richiesta va a quello con la scheda video libera. NVIDIA ha anche annunciato i PC Windows RTX Spark, in arrivo a ottobre.
Aziende
NVIDIA, Nous Research, Perplexity, Lenovo, Acer
Tool
llama.cpp, vLLM, LM Studio, Ollama, NVIDIA PAIR, Hermes Agent, OpenClaw
Tag
Fonti