OpenAI Triton: scrivere kernel GPU in Python diventa praticabile
In una frase OpenAI rilascia Triton, linguaggio e compiler Python-like per scrivere kernel GPU custom con prestazioni vicine a CUDA scritto a mano, abbassando drasticamente la barriera per ottimizzare modelli.
Scrivere codice che gira veloce sulle GPU NVIDIA è storicamente difficile: bisogna conoscere CUDA, gestire memoria condivisa, sincronizzazione, coalescing. È un mestiere a sé.
OpenAI rilascia Triton, un linguaggio (e compiler) che assomiglia a Python e permette di scrivere kernel GPU custom senza dover essere ingegneri CUDA esperti, ottenendo prestazioni vicine a chi li scrive a mano.
Significa che ricercatori AI e developer ML possono ottimizzare strati specifici dei loro modelli (attention, normalization, custom losses) senza scaricare la palla a chi mantiene PyTorch. Triton diventerà fondamento di FlashAttention un anno dopo, e parte stabile dello stack PyTorch.
Aziende
OpenAI
Tool
Triton
Tag
Fonti