Itdaily - ExpectedIT wil van het rack één grote CPU maken: ‘Wat Nvidia NVLink deed voor GPU’s, doen wij voor processors’

ExpectedIT wil van het rack één grote CPU maken: ‘Wat Nvidia NVLink deed voor GPU’s, doen wij voor processors’

Processorchip die via lichtvezels verbonden is met een rek vol gekleurde lagen en een rode driehoek.

Het Duitse ExpectedIT ontwikkelt met LPool een chip die alle processors, geheugen, opslag en netwerkkaarten in een serverrack samensmelt tot één grote computer, naar analogie met wat Nvidia’s NVLink voor GPU’s doet. Intel verleende al een licentie op zijn UPI-protocol en Microsoft en Meta valideerden de architectuur, maar de chip zelf bestaat nog niet. Eerst moet een kapitaalronde van 25 miljoen euro slagen.

“Aan de server is al decennia niets fundamenteels veranderd”, zegt Klas Moreau, CEO van ExpectedIT. De Zweed is geen onbekende in de halfgeleiderwereld: hij bouwde zeventien jaar lang producten bij Ericsson en leidde daarna zes jaar de Zweedse compressiespecialist ZeroPoint Technologies.

Sinds april staat hij aan het hoofd van ExpectedIT, een start-up uit Stuttgart met zestien ingenieurs. Medeoprichter en CPO Dr. Burkhard Steinmacher-Burow werkte 21 jaar bij IBM mee aan de architectuur van de Blue Gene-supercomputers, en precies daar ligt de kiem van het bedrijf: waarom koppelen we servers in een datacenter niet zoals we dat bij supercomputers doen?

Van GPU-knelpunt naar CPU-knelpunt

Het momentum voor die vraag is er volgens Moreau. In het ChatGPT-tijdperk draait alles om GPU’s: training en inferentie gebeuren op accelerators, en Nvidia lost het schaalprobleem op met NVLink. Dat laatste is een interconnect die van een volledig rack één grote GPU maakt. Agentische AI verandert de rekening. Agenten draaien 24/7, roepen tools en API’s aan en orkestreren taken, en dat werk komt op de CPU terecht. ExpectedIT rekent op tien keer meer CPU-compute dan in het klassieke generatieve tijdperk.

Moreau schuift daarvoor vier autoriteiten naar voren. AMD-CEO Lisa Su ziet de markt voor server-CPU’s op basis van geboekte orders verdubbelen tot 120 miljard dollar tegen 2030, UBS rekent zelfs op 170 miljard dollar, Morgan Stanley becijferde dat 50 tot 90 procent van de latency van agentische workloads aan de CPU-kant zit.

Zelfs Nvidia bouwt intussen zelf CPU-only racks. Het blijven projecties in volle AI-hype die je best met een grove korrel zout neemt, maar de richting is opvallend eensgezind: het knelpunt verschuift van de GPU naar de host.

Het rack als één computer

Vandaag praat een server met zijn buren via Ethernet. Dat is snel, maar tergend traag in verhouding tot het tempo waarmee een CPU zijn eigen geheugen aanspreekt. Wie een workload draait die niet op één server past, moet die moeizaam opsplitsen. Het gevolg zijn ‘gestrande’ resources: Microsoft Research documenteerde dat 30 tot 40 procent van het geheugen in gevirtualiseerde productieomgevingen ongebruikt vastzit in de ene server, terwijl de buurserver geheugen tekortkomt.

Schema van LPool: CPU-chip en Pool-chip met interconnect, verbonden via PCIe-tunnel en geheugen

LPool, voluit Large Pool, moet dat oplossen. Naast elke CPU past een LPool-chip van ExpectedIT: een dunne logicalaag boven op de bestaande PCIe-interface die de grenzen tussen servers vervaagt. Het rack gedraagt zich vervolgens als één machine waarin elke processor het geheugen, de opslag en de accelerators van het volledige rack op één hop afstand ziet.

Het besturingssysteem merkt daar weinig van: Linux ondersteunt vandaag al machines met veel sockets. Wie acht CPU’s en een terabyte geheugen nodig heeft, krijgt die toegewezen; na afloop komt alles vrij voor de volgende workload.

De belofte: tot vijftig procent meer AI-tokens uit dezelfde hardware, omdat GPU’s niet langer wachten op een CPU die data aanlevert. “Elke seconde dat een GPU op data wacht, is verloren omzet”, zegt Moreau. Die vijftig procent is voorlopig wel een papieren claim: een eerste demo met AI-workloads volgt pas eind september. Chips zijn er voorlopig nog niet.

‘AMD stopt bij twee sockets, Intel bij acht’

Wie vandaag een grote server wil bouwen, botst snel op een plafond. AMD koppelt maximaal twee sockets, Intel acht, en wie richting die limieten gaat, betaalt fors: de grootste sockets en geheugenmodules kosten al snel vier tot acht keer meer dan het middensegment. ExpectedIT belooft ‘geen plafond’, al is de realiteit voorlopig bescheiden. De eerste generatie LPool-chips schaalt naar tien sockets, de tweede naar 48 via PCIe Gen 6, de derde naar 96 via PCIe Gen 7.

Staafdiagram: AMD stopt bij 2 sockets, Intel bij 8, en de LPool-generaties lopen op tot 96 sockets

Vooral hyperscalers spitsen volgens Moreau de oren. Zij willen één goedkoop, generiek servertype met bescheiden processors en geheugen, en dat naar behoefte schalen over het rack. Daarmee schuurt LPool tegen CXL aan, de interconnect die hyperscalers vandaag uitrollen om geheugen te delen.

Moreau, zelf jaren actief in het CXL-kamp, ziet een belangrijk verschil. “LPool zit in dezelfde tier als de CPU en vereist geen extra switch-laag met bijhorende hardware en energieverbruik.” Hij verwijst naar de Beluga-paper van Alibaba, waarin CXL-gekoppeld geheugen de KV-cache van AI-inferentie tot zeven keer sneller maakte, en claimt met LPool hetzelfde of beter te kunnen dankzij lagere latency. “LPool kan de memory sharing van CXL potentieel vervangen”, hoopt hij. Tegelijk geeft hij toe dat CXL niet meer te stoppen valt.

Helemaal nieuw is het idee van composable infrastructuur overigens niet: spelers als Liqid bewandelen al langer een vergelijkbaar pad. ExpectedIT claimt ook niet de hele markt. Servers met één of twee sockets blijven het werkpaard van het datacenter; Moreau mikt op hooguit twintig tot veertig procent van de markt, waaronder hyperscalers.

Zonder ecosysteem geen LPool

Het opvallendste nieuws uit ons gesprek: Intels Xeon 7, die volgend jaar verschijnt, ondersteunt LPool memory sharing. Dat klinkt indrukwekkend, maar het is belangrijk om te weten dat Intel geen ExpectedIT-technologie bouwde  in zijn processors. Het is ExpectedIT dat zijn memory sharing bouwde bovenop UPI, Intels eigen interconnect-protocol. Moreau kondigde tegelijk trots aan dat het enkele weken geleden de licentie om dat protocol te gebruiken heeft gekregen.

AMD kwam niet als eerste aan bod omdat het geen native interconnect boven twee sockets heeft. Gesprekken met AMD en ARM lopen, maar concreet is daar nog niets.

Moederborden moeten ontworpen worden met een LPool-chip per CPU en bekabeling tussen de servers in het rack. ExpectedIT moet dus Supermicro, Dell, HPE en Lenovo samenwerken

Bestaande servers upgraden zit er evenmin in. Moederborden moeten ontworpen worden met een LPool-chip per CPU en bekabeling tussen de servers in het rack. ExpectedIT moet dus Supermicro, Dell, HPE en Lenovo, of de hyperscalers zelf met custom modellen, overtuigen om aangepaste moederborden te bouwen. Geen enkele van die partijen heeft vandaag getekend.

Dan is er nog de productie. LPool vraagt een geavanceerd procedé van zowat zes nanometer, en daarvoor kan ExpectedIT enkel terecht bij TSMC, Samsung of Intel. Dat is spijtig voor een bedrijf dat door Europa als strategische technologie wordt omarmd, met een EIC-beurs uit de beste vier procent van meer dan duizend aanvragen. De soevereine Europese chip moet per definitie buiten de EU gebakken worden.

Eerst 25 miljoen euro, dan een chip

In oktober opent ExpectedIT een Series A-ronde van 25 miljoen euro, waarvan tot tien miljoen EIC-equity, die eind maart 2027 moet sluiten. Alleen al de tape-out van de chip kost zowat tien miljoen euro. Lukt dat, dan volgen samples eind 2027 en staan de eerste machines bij partners in 2028, in het beste geval.

Daarna wacht een Series B van ruwweg 60 miljoen euro. In totaal heeft ExpectedIT naar eigen schatting 100 à 120 miljoen euro nodig. Moreau vat de Europese paradox treffend samen: “Amerikaanse investeerders zeggen dat we te weinig vragen. Europese investeerders vinden het veel geld.”

Tractie is er volgens Moreau. ExpectedIT tekende intentieverklaringen met AI-ontwikkelaar FractalBrain, cloudoperator Core42 (een dochter van het Emiraatse G42) en de IJslandse hostingspeler 1984 ehf. Met de Europese CPU-bouwer SiPearl wordt onderhandeld.

Engineeringteams van Microsoft en Meta bevestigden de architectuur onafhankelijk en internetpionier Vint Cerf zetelt in de adviesraad. Een indrukwekkend rijtje voor een bedrijf van twintig man, maar het blijven intentieverklaringen, geen bestellingen. Moreau windt er zelf geen doekjes om: “Het is een gok. Er lijkt tractie te komen, maar zeker ben ik pas wanneer de A-ronde rond is en we chips beginnen te maken.”

Veelbelovende theorie zoekt silicium

Agentische AI maakt de CPU-kant van het datacenter tot knelpunt en de oplossing van ExpectedIT wordt door AMD, Nvidia en onderzoekers bevestigd. De oplossing is elegant, het team heeft met IBM- en Ericsson-adelbrieven de juiste achtergrond, en Moreau is verfrissend eerlijk over de risico’s. Dat is een zeldzaamheid in AI-pitches maar misschien wel verplicht als EU-speler.

Toch flatteert en ontmaskert de NVLink-vergelijking wat van een rack één GPU maakt. Nvidia kan zijn interconnect aan de markt opleggen omdat het de GPU’s zelf verkoopt. ExpectedIT bezit geen CPU’s, geen moederborden en geen fabriek, en moet Intel, AMD, OEM’s en hyperscalers tegelijk in beweging krijgen.

ExpectedIT bezit geen CPU’s, geen moederborden en geen fabriek, en moet Intel, AMD, OEM’s en hyperscalers tegelijk in beweging krijgen.

De chip is er ten vroegste eind 2027, en enkel als een Europese durfkapitaalmarkt, die traditioneel huiverachtig staat tegenover halfgeleiders, 25 miljoen euro op tafel legt. De mijlpalen die gehaald moeten worden, zijn duidelijk: demoresultaten eind september, de A-fundingronde tegen maart 2027, de eerste chips later dat jaar en de eerste machines in 2028. Tot zolang blijft ‘het rack is de CPU’ een veelbelovende theorie, maar wel een die Intel, Microsoft en Meta ernstig genoeg nemen om er hun naam aan te verbinden.