Medio AI locale · 1 min lettura
KoboldCpp v1.84: RAG nativo con ChromaDB embedded, zero server separati
In una frase KoboldCpp v1.84 porta RAG nativo con ChromaDB embedded: indicizza documenti locali e inietta contesto automaticamente nel prompt, senza configurare server separati.
Livello di lettura
KoboldCpp è uno strumento per eseguire modelli AI localmente, molto usato per la narrativa e i giochi di ruolo. Con la versione 1.84 aggiunge una funzionalità importante: puoi dargli dei documenti tuoi (PDF, testo, note) e lui li indicizza in modo che il modello possa cercarci dentro durante la conversazione. Quando fai una domanda, recupera automaticamente i passaggi rilevanti dai tuoi documenti e li include nel contesto. Nessun server aggiuntivo da installare, tutto integrato in un solo file eseguibile.
Aziende
LostRuins
Tool
KoboldCpp, ChromaDB
Tag
KoboldCppRAGChromaDBLocal AIDocument QAOffline
Fonti