WormGPT: il primo LLM commerciale per il crimine informatico
In una frase Appare sul dark web il primo LLM addestrato esplicitamente per attività criminali: nessun filtro di sicurezza, fine-tuning su dati malware, venduto in abbonamento mensile.
ChatGPT e i modelli simili hanno dei limiti incorporati: rifiutano di spiegare come costruire armi, scrivere email di phishing convincenti o creare malware. Questi filtri si chiamano guardrail. Finora chi voleva aggirare queste restrizioni doveva affidarsi a trucchi e jailbreak, con risultati spesso parziali.
Nel luglio 2023 è apparso qualcosa di diverso: WormGPT. Non è un ChatGPT hackerato — è un modello linguistico addestrato da zero per il crimine informatico. È stato fine-tuned su dataset di malware, forum criminali e guide ad attacchi informatici. Non ha guardrail perché non ne sono stati messi.
Il modello veniva venduto in abbonamento su forum del dark web, con tanto di interfaccia web e supporto clienti. I ricercatori che lo hanno testato hanno scoperto che era particolarmente bravo a generare email di Business Email Compromise (BEC) — il tipo di frode in cui qualcuno si finge un dirigente e ordina un bonifico urgente.
WormGPT ha aperto la strada a un mercato: dopo di lui sono apparsi FraudGPT, DarkBard, PoisonGPT e decine di varianti. L'AI-as-a-service criminale è diventata un'industria vera e propria, accessibile anche a chi non ha competenze tecniche.
Aziende
—
Tool
—
Tag
Fonti