Galactica: Meta lancia (e ritira in tre giorni) un LLM per la scienza
In una frase Meta presenta Galactica, un modello da 120B parametri addestrato su 48 milioni di paper scientifici. La demo pubblica viene ritirata dopo tre giorni per ondata di critiche su allucinazioni autorevoli.
Meta presenta un'AI specializzata in scienza: addestrata su milioni di paper, dovrebbe aiutare i ricercatori a scrivere, sintetizzare, navigare la letteratura. Si chiama Galactica. C'è una demo pubblica.
Nel giro di poche ore i ricercatori scoprono che il modello genera con sicurezza paper che non esistono, biografie inventate, citazioni false ma plausibili. Su un terreno delicato come quello scientifico, "sembra vero ma è falso" è un disastro.
Tre giorni dopo Meta toglie la demo. È il primo caso pubblico di un grande modello scientifico ritirato. Diventa subito un caso di studio su quanto sia pericoloso dare un'AI confident a temi dove la verità conta più dello stile.
Aziende
Meta AI
Tool
Galactica
Tag
Fonti