Pathways: Google delinea l'architettura post-Transformer
In una frase Jeff Dean illustra Pathways, l'architettura unificata di Google per modelli sparsi multitask multimodali, fondamento dell'infrastruttura che farà nascere PaLM e Gemini.
Jeff Dean, capo di Google AI, pubblica una visione: Pathways. L'idea è costruire un singolo modello AI capace di fare molte cose insieme — testo, immagini, audio, codice — invece di addestrare un modello specializzato per ogni compito.
Il sistema dovrebbe essere sparso: come un cervello umano, accende solo le parti che servono per la domanda specifica. Più efficiente, più riusabile.
Pathways non è un prodotto ma un'infrastruttura: la piattaforma di training che permetterà a Google di fare PaLM (2022), poi PaLM 2, fino a Gemini. È il documento che spiega come Google pensa di rincorrere e superare OpenAI.
Aziende
Tool
Pathways
Tag
Fonti