Categoria
35 voci
DeepSeek rilascia V4 Preview open source: V4-Pro (1.6T totali, 49B attivi) e V4-Flash (284B totali, 13B attivi). Contesto nativo 1M token, attenzione ibrida CSA+HCA per ridurre KV cache del 90%.
Mistral rilascia Small 4 unificando Magistral (reasoning), Pixtral (multimodale visione) e Devstral (coding agentico) in un unico modello open weight, semplificando lo stack di deployment.
Mistral AI annuncia un nuovo modello flagship con capacità di ragionamento estese, pesi aperti per la variante research. Risposta europea a DeepSeek R2 e ai reasoning models USA.
DeepSeek pubblica R2, successore di R1: ragionamento step-by-step più efficiente, pesi aperti, training cost contenuto. Nuova pressione sui modelli reasoning chiusi.
Alibaba pubblica Qwen 3: 8 modelli da 0.6B a 235B parametri (2 MoE + 6 dense), tutti con thinking mode commutabile. Licenza Apache 2.0. Riposiziona Qwen come miglior open weight.
Meta rilascia Llama 4 Scout (17B attivi/109B totali) e Maverick (17B/400B), MoE multimodali con 10M context per Scout. Behemoth (2T) in training. Risultati benchmark contestati dalla community.
DeepSeek rilascia un aggiornamento di DeepSeek-V3 (685B param MoE, 37B attivi) con licenza MIT. Performance vicine a Claude 3.7 Sonnet su coding, costo training stimato 20x inferiore.
Startup cinese DeepSeek rilascia R1, modello reasoning con pesi MIT open. Performance pari a OpenAI o1, prezzo API $0.55/$2.19 per 1M token (vs o1 $15/$60). Mercato Nasdaq AI perde $1T in due giorni.
DeepSeek pubblica V3, MoE 671B (37B attivi), competitivo con GPT-4o e Claude 3.5 Sonnet. Training: 2.788M GPU-h H800, costo dichiarato $5.6M. Cambia la narrativa 'frontier = miliardi'.
Meta rilascia Llama 3.3 70B Instruct: stesso conteggio parametri di 3.1 70B ma performance dichiarate vicine al 405B grazie a nuovo post-training pipeline, niente nuovo modello base.
Allen Institute (AI2) rilascia Tülu 3: famiglia 8B/70B con il primo post-training pipeline davvero open (codice, dati, recipes, eval), batte Llama 3.1 Instruct usando solo la base Meta.
Meta rilascia Llama 3.2 in 4 taglie: 1B e 3B per edge/mobile, 11B e 90B multimodali (vision). Prima volta che Meta entra serio in multimodale open + on-device.
Alibaba rilascia Qwen 2.5: 7 taglie (0.5B–72B), tokenizer aggiornato, varianti specializzate Coder e Math, posizionando la famiglia come riferimento open multilingue e code-strong.
Meta rilascia Llama 3.1 405B con licenza commerciale: per la prima volta un modello open compete direttamente con GPT-4 e Claude 3.5 Sonnet sui benchmark, includendo 128K context.
Google rilascia Gemma 2 (9B e 27B), seconda generazione open ad architettura Gemini-derived con soft attention capping, knowledge distillation e performance class-leading nella fascia <30B.
DeepSeek pubblica V2: MoE da 236B totali / 21B attivi con Multi-head Latent Attention (MLA), riduce drasticamente la KV cache e abbatte i prezzi API in Cina del 90%, innescando una guerra dei prezzi.
Meta rilascia Llama 3 in due taglie iniziali (8B, 70B). Addestrato su 15T token, miglior tokenizer, context 8K. Il 70B Instruct compete con Claude 3 Sonnet e Gemini 1.5 Pro su molti benchmark.
Mistral pubblica Mixtral 8x22B sotto Apache 2.0, MoE da 141B totali (39B attivi per token) con context 64k e tokenizer ottimizzato, primo open weight a competere realmente con Llama 2 70B in produzione.
Databricks rilascia DBRX, un Mixture-of-Experts open weights da 132B parametri totali (36B attivi per token), che supera Llama 2 70B su molti benchmark a costo inferenza minore.
Google rilascia Gemma 2B e 7B, modelli open-weights derivati dalla ricerca Gemini. Per la prima volta Google compete direttamente con Llama e Mistral sul terreno open.
Mistral rilascia Mixtral 8x7B via magnet link senza preavviso: SMoE con 8 esperti da 7B, 13B parametri attivi su 47B totali. Performance pari/superiore a GPT-3.5. Apache 2.0.
Mistral AI (Parigi), startup di tre mesi fondata da ex Meta/DeepMind, rilascia Mistral 7B con licenza Apache 2.0. Batte Llama 2 13B sulla maggior parte dei benchmark con metà dei parametri.
Meta rilascia Llama 2 (7B, 13B, 70B) con licenza che permette uso commerciale fino a 700M utenti attivi. Per la prima volta un LLM serio è davvero deployabile in produzione senza dipendere da un'API.
Stability AI rilascia StableLM 3B e 7B con licenza CC BY-SA 4.0, addestrati su 1.5T token. Risposta open ai modelli chiusi, ma quality ancora dietro LLaMA.
Meta pubblica LLaMA in quattro taglie (7B, 13B, 33B, 65B) accessibili su richiesta a ricercatori. Una settimana dopo, i pesi finiscono in leak pubblico.
Hugging Face rilascia diffusers, una libreria Python modulare per modelli di diffusione text-to-image, audio e oltre. Diventa rapidamente lo standard di fatto.
Il collettivo BigScience rilascia BLOOM, un modello da 176 miliardi di parametri addestrato in 46 lingue e 13 linguaggi di programmazione, sotto licenza RAIL aperta.
Meta AI rilascia OPT-175B, un modello linguistico paragonabile a GPT-3 per dimensioni, con pesi disponibili ai ricercatori e un logbook di training pubblico.
EleutherAI rilascia GPT-J, modello da 6B parametri addestrato in JAX su TPU, con prestazioni paragonabili a GPT-3 Curie, distribuito sotto licenza Apache 2.0.
EleutherAI pubblica The Pile, un dataset di 825 GB composto da 22 sotto-dataset diversificati, che diventerà la base per GPT-Neo, GPT-J, Pythia e gran parte dell'ecosistema open.
EleutherAI rilascia GPT-Neo 1.3B e 2.7B, modelli linguistici open source addestrati su The Pile, primo tentativo serio di replicare l'architettura GPT-3 con pesi pubblici.
EleutherAI rilascia The Pile, un dataset composito da 825 GB di testo curato da 22 fonti diverse (arXiv, GitHub, PubMed, libri, StackExchange…), pensato per il pre-training di language model open di grande scala.
HuggingFace rilascia Transformers 3.0 con la libreria tokenizers in Rust (fino a 100× più veloci), nuove pipeline NLP e un'integrazione più stretta con il Model Hub, consolidando lo standard de facto per usare modelli pretrained in Python.
Connor Leahy, Sid Black e Leo Gao fondano EleutherAI su Discord con l'obiettivo di replicare GPT-3 e rilasciare modelli, codice e dataset open, dando il via a progetti come GPT-Neo, GPT-J e The Pile.
Facebook AI Research consolida fairseq come framework di riferimento per sequence-to-sequence: aggiunge supporto modulare per BART, RoBERTa, mBART, wav2vec e diventa la codebase principale dei modelli FAIR del 2020.