OpenAI rilascia gpt-realtime-2.1: latenza vocale p95 giù di almeno il 25%

Chi ha provato un assistente vocale AI conosce il difetto tipico: quella pausa innaturale tra la fine della domanda e l'inizio della risposta. In una telefonata vera, mezzo secondo di silenzio di troppo basta a far sembrare l'interlocutore un robot. È il motivo per cui molti voice bot aziendali risultano frustranti.

Il 6 luglio OpenAI ha aggiornato i suoi modelli vocali con gpt-realtime-2.1 e la variante economica 2.1-mini. La novità principale non è un modello più grande, ma un'ottimizzazione: nei casi peggiori (il famigerato percentile 95, cioè le risposte più lente) l'attesa si riduce di almeno un quarto. In pratica, meno momenti imbarazzanti in cui l'utente si chiede se la linea è caduta.

Ci sono anche miglioramenti molto concreti per l'uso reale: il modello capisce meglio codici alfanumerici dettati a voce (numeri d'ordine, numeri di telefono, codici cliente), gestisce meglio i silenzi e i rumori di fondo, e si interrompe in modo più naturale quando l'utente inizia a parlare sopra la risposta.

Per l'utente comune il risultato si vedrà nei servizi clienti telefonici, nei centralini automatici e negli assistenti in-app costruiti su questa tecnologia: conversazioni più fluide e meno ripetizioni del tipo "può ripetere il codice, per favore?".