Medio AI locale · 1 min lettura
Private LLM: modelli fino a 7B direttamente su iPhone e Mac, completamente offline
In una frase Private LLM porta LLM fino a 7B su iPhone 15 Pro e Mac con chip M tramite CoreML e Apple Neural Engine, completamente offline senza telemetria né abbonamenti cloud.
Livello di lettura
Private LLM è un'app per iPhone e Mac che fa girare modelli AI direttamente sul dispositivo, senza connessione internet. Su un iPhone 15 Pro o su un Mac con chip Apple Silicon puoi usare modelli da 1 a 7 miliardi di parametri — simili a quelli che girano su Ollama sul computer — senza mandare nulla a nessun server. L'app sfrutta il chip AI integrato di Apple (Neural Engine) per mantenere la velocità accettabile. Nessun abbonamento, nessun account, nessuna raccolta dati.
Aziende
Private LLM
Tool
Private LLM, CoreML
Tag
Private LLMiOSmacOSCoreMLANEOn-device AIPrivacyOffline
Fonti