Salta al contenuto
AImpact
IT EN
Sicurezza Base Anche noto come: Allucinazione · Confabulation

Hallucination

Risposta del modello che suona plausibile ma è inventata: fatti falsi, citazioni inesistenti, API che non esistono, dati sbagliati presentati con sicurezza.

CondividiLinkedInX

In pratica

È il problema numero uno per chi mette LLM in flussi business. Mitigazioni: RAG con fonti, chiedere citazioni, fare verifica con un secondo modello, validare output strutturati con regole. Mai trattare l'output come oro colato senza controllo.

Termini collegati

RAG Alignment

Visto in azione

4 voci che lo citano
  1. NIST AI 600-1: profilo di rischio specifico per l'AI generativa
    Medio
  2. Claude 2.1: contesto 200K e meno hallucination
    Alto
  3. Gorilla: LLaMA fine-tuned che chiama le API senza sbagliare
    Medio
  4. Galactica: Meta lancia (e ritira in tre giorni) un LLM per la scienza
    Medio
← Tutti i termini