Intel ha pubblicato gli ultimi benchmark dell’acceleratore Gaudi 2 in MLPerf Training v4.0, affermando che si tratta di un’alternativa a basso costo per i carichi di lavoro AI Compute e GenAI. I benchmark MLPerf Training v4.0 di oggi sono speciali per Intel perchรฉ รจ la prima volta che l’azienda presenta le prestazioni di un sistema Gaudi 2 su larga scala, che incorpora 1024 acceleratori, tutti addestrati su Intel Tuber Developer Cloud per dimostrare le prestazioni e la scalabilitร del portafoglio AI di Intel. Questo ecosistema software รจ stato utilizzato per mettere a punto le prestazioni di questi acceleratori all’interno del modello di parametri GPT-3 175B di MLPerf. Intel afferma che con questi nuovi benchmark dimostra come i suoi acceleratori Gaudi 2 siano una soluzione di calcolo GenAI e AI scalabile, economica e accessibile, in grado di addestrare LLM con 70 miliardi di parametri, fino a 175 miliardi, e che l’acceleratore Gaudi 3 di prossima generazione rappresenterร il prossimo salto di qualitร nelle prestazioni, supportando al contempo una suite software aperta.
Ancora una volta, grazie a questo ultimo benchmark MLPerf v4.0, Intel dimostra di essere l’unica alternativa di benchmark per il calcolo dell’intelligenza artificiale all’H100 di NVIDIA, che ha completato l’esecuzione di 175B in 66,9 minuti TTT (Time-To-Train). Non solo, ma nel nuovo modello Llama 2 70B finemente sintonizzato che utilizzava LoRa (adattatori a basso rango), Intel ha raggiunto un TTT di 78,1 minuti con soli otto acceleratori Gaudi 2. Il principale punto di forza degli acceleratori Gaudi 2, come sottolineato da Intel, รจ il prezzo. Al Computex, Intel ha svelato che un sistema Gaudi 2 AI con 8 acceleratori e una Universal Baseboard (UBB) sarร disponibile a 65.000 dollari, un prezzo stimato a un terzo di quello delle soluzioni concorrenti. Non solo, ma i kit Gaudi 3 di Intel con una configurazione simile saranno disponibili a 125.000 dollari USA.
Clicca sulla copertina per leggere
