De mensheid maakt een grote gok: in naam van AI worden zowel hardware- als software-architectuur opnieuw uitgetekend. Dat gebeurde nooit eerder tegelijkertijd, zonder verticale integratie. Is de oplossing open source?
Revoluties kenmerken de technologiewereld, maar de trend vandaag is ongezien. “We zijn bezig met een co-evolutie”, zegt Mark Collier, Executive Director van de PyTorch Foundation. “We proberen de hardware- als de software-architectuur tegelijkertijd te vernieuwen. Dat gebeurt niet via verticale integratie, binnen één bedrijf, maar heel breed met input van bedrijven en mensen wereldwijd.”
Totale revolutie
Collier verwijst natuurlijk naar de AI-revolutie die op dit moment aan de gang is. Daarbij bouwen hardwarespecialisten nieuwe GPU’s, TPU’s, ASIC’s, allemaal om AI-workloads te accelereren. Het hardwarelandschap diversifieert en evolueert aan hoog tempo, en de softwarelaag daarboven moet al die componenten ondersteunen.
Het tempo van softwareontwikkeling doet niet onder. Nieuwe grote of gespecialiseerde LLM’s verschijnen maandelijks. Ieder nieuw model stelt nieuwe eisen aan de onderliggen de stack voor training en inferentie. Ook de workloads evolueren, met agenten die inferentie op grote schaal vereisen.
Het lijkt er wel op of iedereen tegelijkertijd opnieuw leert rijden, terwijl niet alleen de motor van de wagen in realtime een upgrade krijgt maar ook wegen opnieuw worden aangelegd.
Op maat van opensource
“Die situatie is uniek”, aldus Collier. “Alle architectuur verandert tegelijkertijd, en dat brengt een groot coördinatieprobleem met zich mee. De enige manier om de neuzen van zoveel mensen wereldwijd in dezelfde richting te krijgen, is via opensource. Dit soort coördinatie is waar opensource goed in is.”
Zo hebben Collier en de PyTorch Foundation een grote rol te spelen. De stichting heeft als missie om opensource AI te ondersteunen, van training over inferentie tot agenten. Dat gebeurt via het beheer van het populaire PyTorch-raamwerk, dat training en optimalisatie van verschillende AI-modellen op diverse hardware mogelijk maakt, maar ook andere opensource-projecten waaronder Ray, DeepSpeed, vLLM en sinds heel kort Helion en SafeTensors.
Met PyTorch naar Parijs
Om de ambitie tot wereldwijde coördinatie kracht bij te zetten, neemt Collier de PyTorch Foundation de Atlantische Oceaan over, richting Parijs. Daar vindt de eerste Europese PyTorch-conferentie ooit plaats. “PyTorch was al een globaal project wat contributies betreft”, zegt hij. “Het was tijd om uit onze Silicon Valley-bubbel te stappen, en te gaan naar waar onze ontwikkelaars zijn.”
“In Europa is er heel wat interesse in de ontwikkeling van open AI (niet te verwarren met OpenAI, nvdr.)”, gaat Collier verder. “En in Frankrijk is er Mistral, dat al heel wat open weight-modellen heeft gepubliceerd.”
Zelfbeschikking via abstractie en eenvoud
In Europa is soevereiniteit bovendien een actueel onderwerp. Collier volgt de definitie van digitale soevereiniteit die te maken heeft met zelfbeschikking en de weerbaarheid. Daar kan PyTorch volgens hem een cruciale rol spelen.
“PyTorch is hét belangrijkste opensource-project op dit moment in de geschiedenis”, stelt Collier enthousiast. “PyTorch maakt het eenvoudiger voor organisaties om zelf modellen te bouwen. Bovendien ondersteunt de stichting projecten die het gebruik van AI eenvoudiger maken. Verder zien we meer en meer nieuwe AI-accelerators verschijnen. PyTorch is de abstractielaag daartussen, waarmee je chips van iedereen kan gebruiken.”
De positie van PyTorch als onafhankelijk opensource framework zal bedrijven de mogelijkheid geven om vrij te beslissen welke hardware ze gebruiken om met AI te werken. Bovendien kunnen ze zelf hun modellen trainen of opensource-modellen verbeteren. Dat vermindert de afhankelijkheid van grote partijen.
Veel enthousiasme (maar geen Nvidia)
In die context valt het op dat dit het eerste AI-event is dat we bijwonen, waar Nvidia géén hoofdsponsor is (en AMD wel). Nvidia heeft met zijn eigen AI-ecosysteem immers een dominante positie in de markt, die het niet wil verliezen door opensource te veel in de verf te zetten. De abstractielaag waar Collier het over heeft, maakt het immers mogelijk om eenvoudiger met non-Nvidia-accelerators aan de slag te gaan.
Concurrent AMD kiest vanuit een underdogpositie wel voor openheid, en maakt van zijn plaats in de spotlights gebruik om PyTorch te prijzen. “PyTorch heeft AI-programmering op een enkele GPU eenvoudig gemaakt, en is nu de drijvende kracht achter een open AI-ecosysteem met parallel computing”, zegt Rami Roane, VP voor AI Software Applications bij AMD.
In Parijs komen ontwikkelaars van 45 landen en 250 organisaties samen om te praten over PyTorch en open AI. Samen hebben ze een doel: de grote gok die de techwereld op AI maakt, op een open manier ondersteunen. Collier bestijgt het podium tijdens zijn keynote en vat het als volgt samen: “De PyTorch-community is anders dan andere opensource-gemeenschappen. Jullie willen doen wat nog nooit gedaan is.”