Salta al contenuto
AImpact
IT EN
Medio Infrastruttura AI · 1 min lettura

OpenAI Triton: scrivere kernel GPU in un linguaggio simile a Python

In una frase OpenAI rilascia Triton 1.0, linguaggio e compiler open source simile a Python per scrivere kernel GPU efficienti senza esperienza CUDA: una moltiplicazione di matrici FP16 alla pari con cuBLAS in meno di 25 righe.

Verificato Fonte ufficiale
CondividiLinkedInX
Livello di lettura

Scrivere codice veloce per le GPU NVIDIA è storicamente difficile: bisogna conoscere CUDA e gestire a mano trasferimenti di memoria, memoria condivisa e scheduling.

OpenAI rilascia Triton, un linguaggio (e compiler) che assomiglia a Python e permette a ricercatori senza esperienza CUDA di scrivere kernel GPU che, secondo OpenAI, nella maggior parte dei casi sono alla pari con quelli scritti da un esperto.

Il progetto nasce da un paper del 2019 di Philippe Tillet, poi entrato in OpenAI. Al lancio funziona solo su GPU NVIDIA recenti: CPU e GPU AMD non sono supportate.

Aziende

OpenAI

Tool

Triton

Tag

OpenAITritonGPUCompilerCUDA

Fonti