Groq lancia GroqCloud 2.0: LPU Gen3, 2000 token/sec e data center europeo a Francoforte

Immagina di dover leggere un libro intero nel tempo in cui altri leggono una sola pagina. Questo, in sintesi, è ciò che Groq promette con i suoi chip speciali chiamati LPU (Language Processing Unit): velocità di lettura e risposta dei modelli AI nettamente superiore rispetto alle GPU tradizionali.

Con GroqCloud 2.0 e la terza generazione di LPU, Groq fa un salto importante: il sistema riesce ora a generare 2000 token al secondo quando usa il modello Llama 4.1 Maverick, un risultato che equivale a produrre diversi paragrafi di testo in meno di un secondo.

Ma la velocità non è l'unica novità. Groq introduce anche prezzi speciali per l'inferenza batch, pensati per chi deve elaborare grandi quantità di dati in modo meno urgente, riducendo così i costi. Arrivano in versione stabile (General Availability) anche il Function Calling, che permette ai modelli di invocare funzioni esterne e integrarsi con applicazioni reali, la modalità JSON per risposte strutturate, e lo streaming degli strumenti, utile per agenti AI complessi.

La novità forse più importante per il mercato europeo è l'apertura di un data center a Francoforte. Questo significa che le aziende europee possono finalmente usare GroqCloud rispettando le normative sulla residenza dei dati, senza dover inviare informazioni negli Stati Uniti.

In breve: GroqCloud 2.0 si propone come la piattaforma più conveniente e veloce per chi vuole usare modelli open come Llama in produzione, sia per piccoli sviluppatori che per grandi aziende.