Orbital brengt alles in stelling om zijn eerste GPU-satelliet de ruimte in sturen met een SpaceX-raket. Het bedrijf wil onderzoeken of de hardware voor AI-datacenters in de ruimte goed functioneert. Naast technische zijn er ook economische uitdagingen.
Orbital plant in april 2027 zijn eerste testmissie om AI-datacenters in een lage baan om de aarde te brengen. Het Amerikaanse bedrijf zal een satelliet met daarin een GPU-server lanceren aan boord van een Falcon 9-raket van SpaceX.
De eerste testmissie, Orbital-1, moet aantonen dat GPU’s betrouwbaar kunnen functioneren in een baan om de aarde. Daarnaast test het bedrijf stralingsbestendigheid en de mogelijkheid om commerciële AI-inference-workloads uit te voeren.
Elektriciteit in overvloed
Orbital wil naar eigen zeggen een antwoord bieden op de toenemende energiebehoefte van datacenters. Terwijl de vraag naar rekenkracht voor AI-modellen blijft stijgen, lopen bedrijven tegen de limieten van het elektriciteitsnet aan. Volgens Orbital zijn elektriciteit en koeling de grootste kostenposten voor datacenters, en die worden alleen maar uitdagender.
Orbital plant een constellatie van satellieten, elk uitgerust met Nvidia-servers, die parallel workloads kunnen verwerken. De satellieten draaien op zonne-energie, die permanent beschikbaar moet zijn dankzij de geosynchrone baan waarop Orbital mikt.
Koeling via radiatie
Koeling is een andere uitdaging. In de ruimte is straling de enige manier om warmte kwijt te raken. Orbital verwacht dat radiatoren volstaan om de servers aan boord van de satelliet te koelen. Nieuw is dit niet: ook het ISS kan koel blijven met de hulp van grote radiatoren, en het ruimtestation heeft al meerdere servers gehuisvest.
In de ruimte is straling de enige manier om warmte kwijt te raken.
De timing van het plan valt op. Jensen Huang, CEO van Nvidia, gaf tijdens zijn GTC-conferentie in maart al aan dat hij zelf een toekomst ziet voor Vera Rubin-gebaseerde servers in de ruimte. Het bedrijf werkt specifiek aan de Nvidia Space-1 Vera Rubin-module, om dat plan te ondersteunen.
Huang gaf echter aan dat Nvidia het koelingsprobleem nog niet had opgelost. Het bedrijf zou naarstig werken aan een goed koelingssysteem en heeft er zijn beste ingenieurs opgezet.
Tests in aanloop naar inferentie
Orbital verwacht toch volgend jaar al Nvidia hardware fris te kunnen houden in de ruimte. Dat kan vermoedelijk omdat de eerste testsatelliet nog geen al te groot cluster aan boord zal hebben. Orbital wil vooral testen hoe goed de GPU in de ruimte functioneert. Naast koeling zijn er immers nog andere uitdagingen in de ruimte. Zo kan bijvoorbeeld kosmische straling voor bitflips en fouten zorgen.
Orbital focust specifiek op inferentie-workloads, omdat die zich beter lenen voor gedistribueerde verwerking dan training. Bij training zijn duizenden GPU’s nodig die met minimale latency moeten communiceren. Korte en snelle interconnects zijn belangrijk voor trainingsclusters, wat in een satellietnetwerk moeilijk te realiseren is. Inferentie daarentegen verwerkt elk verzoek onafhankelijk, waardoor capaciteit eenvoudiger kan worden opgeschaald via een constellatie van satellieten.
Ogen gericht op de ruimte
Naast Orbital hebben verschillende andere partijen hun ogen gericht op de sterren als toplocatie om nieuwe datacenters te plaatsen. Elon Musk, CEO van SpaceX, wil eveneens een datacenternetwerk in de ruimte bouwen. Met Starlink heeft SpaceX alvast aangetoond dat connectiviteit tussen een lage baan om de aarde en de begane grond efficiënt kan verlopen.
Ook Google wil AI-datacenters naar de ruimte lanceren. De zoekgigant onderzoekt de technische en economische haalbaarheid ervan met Project Suncatcher. Eind vorig jaar stipten de onderzoekers van Google ook 2027 aan als het jaar voor praktijktests.
Ondanks alle ambitieuze doelstellingen, zijn er genoeg voor de hand liggende redenen om terughoudend te zijn. Zo is de ruimte oneindig groot, maar de plek rond de aarde niet. Het wordt druk in de banen om de aarde en satellieten van onder andere Starlink bemoeilijken ruimteobservatie vanop onze planeet nu al.
Complex economisch plaatje
Economisch moet er toch ook nog één en ander uitgeklaard worden. Een enkele Falcon 9-lancering kost ongeveer 74 miljoen dollar. De raket kan ongeveer 22,8 ton in een lage baan om de aarde brengen. Dat brengt de lanceringskost van een enkele kilogram voor een standaard-missie op ongeveer 3.250 dollar.
Het nieuwe Vera Rubin NVL72-systeem is een splinternieuw rack van Nvidia, met daarin de nieuwste chips van de fabrikant. Het rack heeft 72 Nvidia Rubin-GPU’s aan boord, naast 36 Nvidia Vera-CPU’s. Samen met de randapparatuur weegt het rek 1.814 kg. Natuurlijk kan je een racksysteem voor op de aarde niet één op één in een satelliet duwen, maar een Vera Rubin NVL72 met dat gewicht in de lucht sturen, zou je op basis van gewicht alleen zo’n 5,9 miljoen dollar kosten.
Gaan we er optimistisch van uit dat de satelliet, de zonnepanelen en de radiatoren niet zoveel toevoegen aan het gewicht van een NVL72-systeem, dan lukt het misschien om twaalf exemplaren de ruimte in te schieten met één lancering. De vraag is dan of je met een budget van 74 miljoen dollar geen meer voor de hand liggende manier kan vinden om twaalf Vera Rubin NVL72-systemen van koeling, connectiviteit en stroom te voorzien.
De werkelijke prijzen zullen verschillen van bovenstaande eenvoudige berekening op basis van gekende parameters. Orbital, maar ook SpaceX en Google denken dat er wel een business case te maken valt. Verder onderzoek kan ervoor zorgen dat het gewicht van GPU-satellieten daalt, en een hoog tempo van lanceringen kan ook daar de prijs drukken.
Overal datacenters
Orbital van zijn kant opent met Factor-1 in Los Angeles in de VS alvast een onderzoeksinstelling om het project verder te ontwikkelen. Het lijkt er in ieder geval op dat bedrijven wereldwijd geen blijf weten met hun datacenters. Zo onderzoeken de Chinezen datacenters op de zeebodem (nadat Microsoft daar eerder ook al mee experimenteerde) en willen de Japanners hun datacenters op een boot plaatsen.
Voorlopig lijken aardse bouwlocaties met een goede toegankelijkheid naar glasvezel en het elektriciteitsnet toch nog het meest in trek.