Salta al contenuto
AImpact
IT EN
Alto Modelli foundation · 1 min lettura

Qwen1.5: sei taglie da 0.5B a 72B, 32K di contesto per tutti

In una frase Il team Qwen di Alibaba pubblica Qwen1.5 in sei taglie (0.5B, 1.8B, 4B, 7B, 14B, 72B), base e chat, con contesto da 32K token su tutti i modelli, versioni quantizzate e integrazione diretta in Hugging Face transformers.

Verificato Fonte ufficiale
CondividiLinkedInX
Livello di lettura

Qwen1.5 è una famiglia di modelli open weights di Alibaba che va da un modello piccolissimo da mezzo miliardo di parametri fino a uno da 72 miliardi. Ogni taglia esce in due versioni: base e chat.

Tutti i modelli gestiscono fino a 32.768 token di contesto. Il team misura le capacità multilingue su 12 lingue, tra cui l'italiano, oltre a inglese e cinese.

Nei mesi successivi la famiglia si allarga con un modello MoE e con le taglie 32B e 110B (aprile 2024).

Aziende

Alibaba Cloud

Tool

Qwen1.5

Tag

QwenAlibabaMultilingualOpen WeightsLong Context

Fonti