Alto Modelli foundation · 1 min lettura
Qwen1.5: sei taglie da 0.5B a 72B, 32K di contesto per tutti
In una frase Il team Qwen di Alibaba pubblica Qwen1.5 in sei taglie (0.5B, 1.8B, 4B, 7B, 14B, 72B), base e chat, con contesto da 32K token su tutti i modelli, versioni quantizzate e integrazione diretta in Hugging Face transformers.
Livello di lettura
Qwen1.5 è una famiglia di modelli open weights di Alibaba che va da un modello piccolissimo da mezzo miliardo di parametri fino a uno da 72 miliardi. Ogni taglia esce in due versioni: base e chat.
Tutti i modelli gestiscono fino a 32.768 token di contesto. Il team misura le capacità multilingue su 12 lingue, tra cui l'italiano, oltre a inglese e cinese.
Nei mesi successivi la famiglia si allarga con un modello MoE e con le taglie 32B e 110B (aprile 2024).
Aziende
Alibaba Cloud
Tool
Qwen1.5
Tag
QwenAlibabaMultilingualOpen WeightsLong Context
Fonti