NeMo Guardrails 0.8: anteprima di Colang 2.0 ed euristiche anti-jailbreak
In una frase NVIDIA rilascia NeMo Guardrails 0.8.0, toolkit open source per aggiungere guardrail programmabili alle applicazioni LLM: arriva Colang 2.0 in anteprima, insieme a euristiche per rilevare i jailbreak, opzioni di generazione, stop token configurabili e caching degli embedding.
NeMo Guardrails è il toolkit open source di NVIDIA per mettere dei "binari" a un sistema conversazionale basato su LLM: tenere la conversazione in tema, seguire percorsi di dialogo prestabiliti, bloccare o modificare input e risposte indesiderati, senza toccare i pesi del modello.
La versione 0.8.0, del 28 febbraio 2024, introduce in anteprima Colang 2.0, la nuova versione del linguaggio con cui si descrivono i flussi di dialogo e le regole. Aggiunge anche euristiche per rilevare i tentativi di jailbreak.
Il toolkit si collega a modelli diversi e può integrarsi con LangChain.
Aziende
NVIDIA
Tool
NeMo Guardrails, Colang 2.0
Tag
Fonti