Nvidia kondigt de beschikbaarheid van de DGX Spark aan: een minicomputer van 1,2 kilogram die een petaflop aan AI-rekenkracht levert.
Nvidia legt de DGX Spark officieel in de winkelrekken. Jensen Huang ging één van de eerste modellen in hoogsteigen persoon afleveren aan Elon Musk en SpaceX. Met de DGX Spark wil Nvidia de kracht van een supercomputer in je handpalm stoppen. De mini-workstation is voorzien van een aangepaste Grace Blackwell-chip om tot 1 petaflop aan lokale AI-rekenkracht te leveren.
De DGX Spark is ongeveer zo groot als een gevouwen origamipapier en zo dik als de kaft van een boek, schrijft Nvidia. Maar onderschat deze kleine workstation van 1,2 kilogram niet. In de kern van de computer zit een ‘gekrompen’ GB10-chip. De chip bestaat uit twee dies die via NVLink met elkaar verbonden zijn. Nvidia ontwikkelde de chip samen met MediaTek.
1 petaflop
De GB10 kan zo tot 1 petaflop aan rekenkracht voor AI-workloads leveren, wat voldoende is om modellen tot 200 miljard parameters te kunnen verwerken. De CPU en GPU worden gevoed door een gedeeld LPDDR5x-geheugen voor lokale fine-tuning en inferentie. Wie het geluk heeft twee DGX Spark-computers in handen te krijgen, kan die met de geïntegreerde ConnectX-netwerkkaart met elkaar verbinden om de capaciteiten te verdubbelen.
De Nvidia DGX Spark zal ongeveer vierduizend dollar kosten. Het workstation is dan ook niet op de grote massa gericht, maar op datawetenschappers, onderzoekers en robotica-ingenieurs die een kostenvriendelijke oplossing zoeken om zware AI-workloads op te draaien. Voor Nvidia’s meest geavanceerde grafische kaarten ben je al snel het dubbele kwijt.
Trouwe Nvidia-partners zoals Lenovo, HP, Dell en Gigabyte zullen later deze week hun eigen Spark-systemen lanceren. Nvidia heeft een nog krachtigere versie DGX Station in de pijplijn zitten. Die zal uitgerust worden met een GB300-chip die tot 20 petaflops aan AI-rekenkracht kan leveren.