OCI Generative AI aggiunge Llama 3.1 70B e 405B, con dedicated AI clusters e fine-tuning LoRA
In una frase Secondo le release notes del 19 settembre 2024, il servizio OCI Generative AI di Oracle supporta Llama 3.1 70B e 405B di Meta: 405B on-demand a Chicago e su dedicated AI clusters in altre tre regioni, 70B anche con fine-tuning LoRA.
Oracle porta i modelli Llama 3.1 di Meta nel suo servizio di AI generativa su cloud OCI. Il modello più grande, da 405 miliardi di parametri, si può usare subito nella regione di Chicago; nelle regioni di Francoforte, Londra e San Paolo serve invece creare un proprio cluster dedicato su cui ospitarlo.
Il modello da 70 miliardi è disponibile in tutte e quattro le regioni e si può personalizzare con i dati dell'azienda tramite fine-tuning LoRA. Entrambi i modelli gestiscono testi lunghi fino a 128.000 token.
Aziende
Oracle, Meta
Tool
OCI Generative AI, Llama 3.1 70B, Llama 3.1 405B
Tag
Fonti