Google stelt Gemini en Agentspace vanaf het derde kwartaal beschikbaar in on-premomgevingen. Daarmee wordt het mogelijk om Gemini-modellen en toepassingen lokaal te draaien zonder gegevens te moeten delen met de cloud.
Gemini is de ster van de show tijdens Google Cloud Next in Las Vegas. Google kondigt nieuwe toevoegingen aan het AI-arsenaal aan, waaronder Gemini Flash 2.5, een kostenefficiëntere versie van Gemini 2.5 Pro dat voor de conferentie al het levenslicht zag.
Alle Gemini-modellen hebben gemeen dat ze exclusief via de cloudservers van Google beschikbaar waren, maar daar komt verandering in. Google biedt binnenkort de mogelijkheid aan om Gemini en daarop steunende applicaties in on-prem omgevingen te draaien.
Gemini on-prem
Dat betekent niet dat Google Gemini volledig loslaat. Google maakt de on-prem versie van Gemini mogelijk via zijn Distributed Cloud-platform. Dat is een door Google beheerde cloudoplossing voor on-prem en edge, die beschikbaar is in verbonden en afgesloten (air-gapped) configuraties.
Nvidia heeft een meer dan dikke vinger in de pap. Gemini draait op Blackwell-systemen, zoals de DGX B200 en HGX B200, die via Google kunnen besteld worden. Dankzij deze samenwerking kunnen organisaties generatieve AI inzetten zonder dat data de eigen infrastructuur verlaat. Volgens Google biedt de oplossing ondersteuning voor multimodale verwerking van tekst, beeld, audio en video, evenals ondersteuning voor contexten van miljoenen tokens en meer dan honderd talen.
Via de Gemini API kunnen bedrijven generatieve AI inzetten zonder zich zorgen te maken over infrastructuurbeheer of modelonderhoud. Bovendien kunnen ze eigen data integreren via Retrieval Augmented Generation (RAG), bijvoorbeeld om documenten samen te vatten of sentimentanalyse uit te voeren op klantfeedback.
lees ook
Wat is RAG of retrieval augmented generation?
Agentspace on-prem
Samen met Gemini zal ook Agentspace vanaf het derde kwartaal te vinden zijn in de distrbuted cloud. Bedrijven zullen Agentspace ook op gegevens die ze liever on-prem houden kunnen loslaten en vragen stellen via de chatinterface. Agentspace ondersteunt multimodale zoekopdrachten over data in uiteenlopende formaten, zoals tekst, beeld, pdf of video. De tool houdt rekening met toegangsrechten, wat cruciaal is voor compliance in gevoelige sectoren.
Google koppelt Agentspace aan Vertex AI zodat bedrijven ook zelf huisgemaakte AI-agenten kunnen bouwen. Dankzij kant-en-klare connectoren haak je Agentspace en je AI-agenten aan andere systemen die je in gebruik hebt, zoals SharePoint en ServiceNow.
Lokaal of in de cloud
Google Cloud volgt met deze aankondiging een shift in de markt richting meer lokaal draaiende AI-oplossingen. Bedrijven tonen welwillendheid om met AI aan de slag te gaan, maar zijn er niet altijd happig op om interne gegevens naar de cloud te verzenden. Cloud mag dan voordelen voor schaalbaarheid en snelheid bieden, het is op vlak van privacy niet de geprefereerde optie.
PC-fabrikanten zoals HP en Lenovo spelen daar op in met huisgemaakte AI-assistenten die op je pc draaien zodat je geen cloudabonnement meer nodig hebt en ook Microsoft zoekt naar manieren om Copilot lokaal te laten werken. Hoewel Google niets liever zou hebben dan dat je Gemini vanaf zijn cloudservers gebruikt, ziet het zich genoodzaakt de trends in de markt te volgen.