Nvidia

NVIDIA presenta il futuro dell AI Compute

Secondo quanto comunicato in queste ultime ore, NVIDIA ha presentato il suo approccio agli acceleratori AI di nuova generazione, mostrando un’innovativa implementazione silicon photonic alla conferenza IEDM 2024. L’implementazione del Team Green propone l’integrazione di interpositori fotonici al silicio, in sostituzione delle interconnessioni elettriche esistenti. L’utilizzo di SiPh apporta diversi vantaggi, probabilmente nella forma di fornire una maggiore larghezza di banda e una minore latenza, oltre a essere un metodo molto piรน efficiente dal punto di vista energetico rispetto ad altri metodi. Oltre alle interposizioni, NVIDIA prevede di utilizzare 12 SiPh per la comunicazione intrachip e interchip, ottimizzando il flusso di dati tra le singole GPU, un aspetto cruciale per la scalabilitร  e le prestazioni.

รˆ interessante notare che la tecnica di impilamento delle GPU รจ la piรน interessante nella visione di NVIDIA, dal momento che l’azienda ha rivelato l’uso del โ€œ3D stackingโ€, ovvero l’impilamento di piรน GPU tiles in verticale, per aumentare la densitร  del chip e ridurre l’ingombro. Il Team Green chiama questa configurazione โ€œGPU Tierโ€, con quattro piastrelle di GPU in un unico livello, tutte impilate in orientamento verticale, per ridurre la latenza dell’interconnessione e forse implementare il power gating, dato che questa sarร  una possibilitร . Non si tratterร  solo di GPU, ma NVIDIA impilerร  in 3D anche i chip DRAM, sei per ogni tile.

V MENSILE
Clicca sulla copertina per leggere
V008 Mensile