AnythingLLM: RAG completo in locale con UI web e vector DB embedded
In una frase AnythingLLM porta un sistema RAG full-stack con interfaccia web, supporto Ollama/LocalAI come backend LLM, e vector database embedded, tutto offline in un singolo container.
privateGPT aveva mostrato che fare RAG in locale era possibile, ma richiedeva ancora la riga di comando e non aveva un'interfaccia utente. AnythingLLM porta il RAG locale a un livello successivo: una vera applicazione web con workspace separati, caricamento documenti via drag-and-drop, gestione di piu' utenti e la scelta del backend LLM.
Puoi collegarlo a Ollama, LocalAI, o anche a un'API OpenAI remota, e cambiare backend senza ricreare i tuoi spazi di lavoro. I documenti vengono indicizzati e rimangono nel tuo server, sia esso un PC di casa o un server aziendale.
Per chi vuole costruire una knowledge base aziendale privata o un assistente sui documenti interni senza toccare il cloud, AnythingLLM e' tra i progetti piu' completi disponibili come open source.
Aziende
Mintplex Labs
Tool
AnythingLLM, Ollama, LocalAI
Tag
Fonti