Intel ha annunciato il supporto dei modelli Phi-3 AI di Microsoft in tutta la sua gamma di prodotti CPU e GPU. Prima di discutere i dettagli, esaminiamo la famiglia di modelli aperti Phi-3 di Microsoft. I nuovi modelli GenAI dell’azienda si concentrano sulla fornitura di funzionalità a un livello più piccolo e più efficiente, discostandosi dalle norme del settore. Con Phi-3, potremmo assistere alla nascita di Small Language Models (SLM), ideali per i dispositivi a basso consumo con potenza di elaborazione limitata.
Fortunatamente, Intel è stata una delle prime aziende produttrici di hardware a introdurre il supporto per gli SLM all’interno della propria gamma di prodotti e ora gli acceleratori di intelligenza artificiale Gaudi di Intel, le CPU Xeon e Core Ultra e le GPU Arc di Intel (discrete e integrate) sono ottimizzate per supportare i modelli Phi-3 di Microsoft. Microsoft ha rilasciato diversi modelli Phi-3 GenAI, classificandoli secondo i rispettivi parametri. Questi includono modelli mini, piccoli e medi; è interessante notare che Intel ha mostrato le prestazioni dei suoi prodotti in tutti i modelli aperti. Partendo dalle CPU Xeon di 6a generazione di Intel (Granite Rapids), l’azienda ha effettuato il benchmark delle varianti Phi-3 medium a 4k e 128k e la piattaforma ha offerto prestazioni 2 volte superiori rispetto alle controparti Xeon di 5a generazione (Emerald Rapids).
Passando alla piattaforma di CPU Core Ultra di Intel, l’azienda afferma che i modelli Phi-3 catalizzeranno il processo di AI edge e offriranno diversi vantaggi come “personalizzazione e reattività”. L’azienda ha testato il modello Phi-3 mini con il Core Ultra 7 165H di Intel e con la GPU discreta Arc A770 a bordo, e i benchmark hanno mostrato prestazioni impressionanti e latenze di generazione di token.
Clicca sulla copertina per leggere
