Nvidia lanceert Nemotron 3.5 Lightning en NeMo Switchyard met het oog op snellere, goedkopere en flexibelere AI-agenten.
Nvidia breidt zijn Nemotron-familie uit meteen lichtgewicht open model voor AI-agenten: Nemotron 3.5 Lightning . Verder lanceert het bedrijf NeMo Switchyard. Dat is een open source bibliotheek die verzoeken automatisch naar het meest geschikte AI-model doorstuurt. Samen moeten beide oplossingen bedrijven meer controle geven over waar AI draait en hoe efficiënt ze werkt.
Nemotron 3.5 Lightning
Nemotron 3.5 Lightning is een mixture-of-experts-model met 30 miljard parameters, gericht op specifieke taken binnen grotere multi-agentsystemen. Terwijl een groter model zoals Nemotron 3 Ultra een workflow plant en aanstuurt, kan Lightning gerichte taken uitvoeren zoals codereview, het gebruik van tools of het opvolgen van beveiligingswaarschuwingen.
Het model is volgens Nvifia zelf tot vier keer sneller dan vergelijkbare modellen. Omdat het open en aanpasbaar is, kunnen organisaties het met Nvidia NeMo verder trainen op hun eigen data en workflows. Bedrijven als CrowdStrike, Harvey en CodeRabbit passen het model al toe voor respectievelijk cybersecurity, juridische dienstverlening en codereview. Nemotron 3.5 Lightning draait zowel lokaal, op eigen infrastructuur zoals RTX-pc’s en DGX Spark, als in de cloud.
NeMo Switchyard
NeMo Switchyard is een open source bibliotheek die binnen workflows met AI-agenten automatisch bepaalt welk model het meest geschikt is voor elke stap. Ontwikkelaars kunnen de router afstemmen op prioriteiten zoals kwaliteit, snelheid of kosten, zonder hun applicaties te moeten herschrijven.
Interne tests van Nvidia moeten aantonen dat Switchyard dezelfde nauwkeurigheid haalt als topmodellen, terwijl de kosten dalen tot ongeveer een derde van wat Opus 4.8 alleen zou kosten. Partners als Boomi, LangChain en Ramp testten de technologie al met resultaten tot 74 procent lagere kosten bij een beperkte impact op nauwkeurigheid.
Beschikbaarheid
Nemotron 3.5 Lightning is beschikbaar via Hugging Face, ModelScope, OpenRouter en build.nvidia.com, en ook via een netwerk van cloudpartners. NeMo Switchyard staat op GitHub en komt binnenkort naar meerdere partnerplatformen. Met beide releases wil Nvidia bedrijven helpen om AI-agenten sneller, goedkoper en met meer controle in te zetten.