Mistral rilascia Pixtral 12B: modello multimodale che gira su GPU consumer

Mistral è nota per modelli testuali efficienti e open source. Pixtral 12B è il loro primo passo nel territorio multimodale — un modello che comprende sia testo che immagini. La caratteristica chiave di Pixtral è che può gestire più immagini in un singolo prompt: si possono fornire diversi grafici, diagrammi o foto contemporaneamente e fare domande che li riguardano tutti. È particolarmente bravo a comprendere grafici, tabelle e layout di documenti, non solo foto di oggetti. Con 12 miliardi di parametri, gira su una singola GPU consumer — un RTX 3090 o 4090 è sufficiente. È rilasciato con licenza Apache 2.0, quindi può essere usato commercialmente senza restrizioni. Il supporto Ollama significa che si può essere operativi in locale in pochi minuti. Questo democratizza l'AI per la comprensione dei documenti: task che richiedevano costose API cloud possono ora girare su hardware già posseduto.