Itdaily - Kijk binnen in Nvidia Eos, een AI-supercomputer met 4.608 GPU’s

Kijk binnen in Nvidia Eos, een AI-supercomputer met 4.608 GPU’s

Rijen serverkasten van de Nvidia Eos-supercomputer in een gang met roostervloer en verlichting aan het plafond.

De Nvidia Eos supercomputer staat op plaats negen in de lijst van snelste supercomputers ter wereld. Het systeem bevat 4.608 Nvidia H100-GPU’s.

Nvidia heeft de deuren geopend van zijn Eos supercomputer waarmee het negende staat in de befaamde TOP500-lijst. De volledige installatie bestaat uit Nvidia DGX SuperPOD-elementen. In totaal installeerde Nvidia 576 DGX H100-systemen. Alles wordt gekoppeld via een Quantum-2 Inifiniband netwerk, ook van de hand van Nvidia.

Elk DGX H100-systeem bevat acht Nvidia H100-GPU’s. In totaal zitten er dus 4.608 H100-GPU’s aan boord van de Eos supercomputer. Quantum-2 Infiniband levert datasnelheden tot 400 Gbps om snel grote datasets te bewegen om onder andere complexe AI-modellen te trainen. Daarop ligt ook de voornaamste focus: generatieve AI en andere AI-projecten. Het systeem wordt bijgestaan door Intel Sapphire Rapids Xeon Scalable CPU’s.

Alles tezamen haalt het systeem volgens de fabrikant 18,4 exaflops aan FP8 AI-prestaties. Kijken we naar de maximale LINPACK-prestaties waarmee de TOP500-lijst van supercomputers wordt gemeten, komt Eos uit op 121,4 petaflops. Het snelste systeem, Frontier, haalt 1.194 petaflops of 1,19 exaflops. Hiermee is het de eerste supercomputer die de exascale-barrière breekt.

Neem hieronder een kijk achter de schermen van Nvidia Eos: