Medio AI locale · 1 min lettura
Jan.ai 0.5: architettura plugin e uso GPU completo per LLM offline
In una frase Jan.ai 0.5 introduce un marketplace di estensioni, accelerazione GPU CUDA e Metal, modelli pre-configurati per uso offline totale e API compatibile OpenAI.
Livello di lettura
Jan.ai è un'app open source per usare modelli AI completamente offline sul tuo computer. Con la versione 0.5 diventa molto più flessibile: puoi installare estensioni dal marketplace per aggiungere funzionalità, sfrutta appieno la tua GPU sia su Windows (NVIDIA) sia su Mac (Apple Silicon), e include modelli già pronti per chi vuole partire subito senza configurazioni. Espone anche un'API compatibile con OpenAI per integrarla in altri strumenti.
Aziende
Janhq
Tool
Jan.ai
Tag
Jan.aiPluginCUDAMetalOpenAI CompatibleOfflineLocal AI
Fonti