Microsoft lancia Phi-4.5: 14B parametri, ragionamento avanzato e coding su GPU consumer
In una frase Microsoft rilascia Phi-4.5, un modello da 14 miliardi di parametri che batte modelli molto piu grandi nei benchmark di ragionamento e coding, gira su laptop con 8GB di VRAM ed e disponibile gratuitamente con licenza Apache 2.0.
Immagina di avere un esperto di informatica e logica che riesce a stare comodamente in uno zaino, invece di richiedere un intero camion per essere trasportato. Questo e essenzialmente quello che Microsoft ha fatto con Phi-4.5.
I modelli di intelligenza artificiale di solito seguono una regola semplice: piu sono grandi, piu sono capaci. Phi-4.5 rompe questa regola in modo sorprendente. Con soli 14 miliardi di parametri, riesce a competere con modelli molto piu grandi su compiti di ragionamento logico e scrittura di codice.
La vera novita per chi usa un computer normale e che Phi-4.5 funziona su una scheda video da 8GB di VRAM, quella che si trova in molti laptop e PC da gaming di fascia media. Non serve un server costoso o una connessione a internet: il modello gira completamente in locale, sul proprio computer.
Il contesto di 128.000 token significa che il modello riesce a "leggere" e ragionare su documenti molto lunghi in una singola sessione, come interi libri o grandi codebase.
Microsoft ha scelto la licenza Apache 2.0, la piu permissiva nel mondo open source: chiunque puo usarlo, modificarlo e integrarlo anche in prodotti commerciali senza pagare nulla.
Per installarlo basta usare Ollama, uno strumento che rende semplice come scaricare un film avere un modello AI sul proprio PC. Chi lavora in ambito piu tecnico puo usare il formato ONNX per integrarlo in applicazioni Windows o pipeline esistenti.
In sintesi: Microsoft ha costruito un modello potente che finalmente entra nella porta di casa senza bisogno di un carrello elevatore.
Aziende
Microsoft
Tool
Phi-4.5, Ollama, ONNX
Tag
Fonti