Microsoft sta utilizzando il lancio del nuovo Surface e la conferenza degli sviluppatori Build di questa settimana come piattaforma per lanciare la sua nuova iniziativa “Copilot+”, che prevede requisiti hardware specifici che i sistemi dovranno soddisfare per essere idonei. I PC Copilot+ saranno in grado di gestire localmente alcuni carichi di lavoro accelerati dall’intelligenza artificiale, come i chatbot e la generazione di immagini, invece di affidarsi al cloud, ma in generale sarà necessario un nuovo hardware per eseguire questi carichi di lavoro in modo rapido ed efficiente. Come minimo, i sistemi avranno bisogno di 16 GB di RAM e 256 GB di spazio di archiviazione, per soddisfare sia i requisiti di memoria sia quelli di archiviazione su disco necessari per cose come i modelli linguistici di grandi dimensioni (LLM; anche i cosiddetti “piccoli modelli linguistici”, come il Phi-3 di Microsoft, utilizzano comunque diversi miliardi di parametri). Microsoft afferma che tutti i PC con processore Snapdragon X Plus ed Elite annunciati oggi saranno dotati delle funzioni Copilot+ preinstallate e che inizieranno a essere spediti il 18 giugno.
Ma il nuovo requisito più importante, che blocca praticamente tutti i PC Windows in uso oggi, sarà la presenza di un’unità di elaborazione neurale integrata, o NPU. Microsoft richiede una NPU con prestazioni pari a 40 trilioni di operazioni al secondo (TOPS), una cifra di alto livello che Microsoft, Qualcomm, Apple e altri utilizzano per confrontare le prestazioni delle NPU. Al momento, questo requisito può essere soddisfatto solo da un singolo chip nell’ecosistema dei PC Windows, che non è ancora del tutto disponibile: Lo Snapdragon X Elite e X Plus di Qualcomm, che verrà lanciato nel nuovo Surface e in una serie di PC di Dell, Lenovo, HP, Asus, Acer e altri importanti OEM di PC nei prossimi due mesi. Tutti questi chip sono dotati di NPU capaci di 45 TOPS, appena un po’ più del requisito minimo richiesto da Microsoft. Il problema per Intel e AMD è che nessuno dei loro chip di attuale generazione si avvicina minimamente a questo requisito, anche quelli che dispongono di NPU. Le NPU Core Ultra di Intel, basate su Meteor Lake, raggiungono un massimo di 10 TOPS, mentre una manciata di processori per desktop e laptop Ryzen 7000 e Ryzen 8000 di AMD con NPU offrono tra 12 e 16 TOPS. Questo è particolarmente imbarazzante per Intel, che per decenni è stata sinonimo di PC Windows, tanto che il loro portmanteau ha una voce abbastanza approfondita su Wikipedia. Sia Intel che AMD hanno in programma prodotti che aumenteranno le prestazioni delle NPU fino al livello richiesto da Microsoft con i PC Copilot+, ma nessuna delle centinaia di milioni di PC Windows attivi basati su x86, compresi i modelli che si possono acquistare oggi, si qualificherà per l’etichetta.
Anche le CPU e le GPU di Intel e AMD possono contribuire al numero totale di TOPS che un dato sistema può eseguire. Ma le NPU sono hardware specializzato, realizzato per eseguire carichi di lavoro di intelligenza artificiale più rapidamente e con un consumo energetico inferiore. Si potrebbe usare una CPU per eseguire il rendering di giochi 3D o altri carichi di lavoro, ma in genere non lo si fa; si lascia questo lavoro alla GPU. L’hardware dedicato alla codifica e alla decodifica video consente ai processori ARM lenti e poco costosi dei box Roku o dei Fire stick di riprodurre flussi video 4K. La NPU svolge un ruolo simile per i carichi di lavoro dell’intelligenza artificiale: non è disonesto presentare cifre TOPS che raggruppano CPU, GPU e NPU insieme, ma raggiungere quel livello di prestazioni utilizzando CPU e GPU significa consumare molta più energia e ridurre la durata della batteria.