Salta al contenuto
AImpact
IT EN
Medio AI locale · 1 min lettura

KoboldCpp v1.84: RAG nativo con ChromaDB embedded, zero server separati

In una frase KoboldCpp v1.84 porta RAG nativo con ChromaDB embedded: indicizza documenti locali e inietta contesto automaticamente nel prompt, senza configurare server separati.

Verificato Fonte ufficiale
CondividiLinkedInX
Livello di lettura

KoboldCpp è uno strumento per eseguire modelli AI localmente, molto usato per la narrativa e i giochi di ruolo. Con la versione 1.84 aggiunge una funzionalità importante: puoi dargli dei documenti tuoi (PDF, testo, note) e lui li indicizza in modo che il modello possa cercarci dentro durante la conversazione. Quando fai una domanda, recupera automaticamente i passaggi rilevanti dai tuoi documenti e li include nel contesto. Nessun server aggiuntivo da installare, tutto integrato in un solo file eseguibile.

Aziende

LostRuins

Tool

KoboldCpp, ChromaDB

Tag

KoboldCppRAGChromaDBLocal AIDocument QAOffline

Fonti