Google’s laatste nieuwe AI-model Gemma 3 270M past op smartphones en verbruikt amper batterij.
Terwijl Big Tech de voorbije jaren vooral focuste op LLM’s in de cloud, brengt Google nu een nieuwe compacte variant uit: Gemma 3 270M. Die draait lokaal, bijvoorbeeld op je smartphone of zelfs volledig in je browser.
270 miljoen parameters
Eerder dit jaar bracht Google de eerste open Gemma 3-modellen uit, met tussen de 1 en 27 miljoen parameters. Hoe meer parameters, hoe beter het presteert. Met slechts 270 miljoen parameters is dit het kleinste model uit de Gemma-familie. Eerdere versies liepen op tot 27 miljard parameters, maar Gemma 3 laat zich niet kennen.
In de IFEval-benchmark scoorde Gemma 3 270M beter dan andere lichte modellen met meer parameters, en haalt het ruim de helft van de prestaties van zwaardere versies.
AI op je eigen toestel
Lokaal draaien betekent minder vertraging, geen dataverkeer naar de cloud en meer privacy. Volgens Google kan de Gemma 3 270M op een Pixel 9 Pro 25 gesprekken voeren met amper 0,75 procent batterijverbruik. Dat maakt het model geschikt voor toepassingen zoals tekstverwerking, dataverwerking of lichte chatbots.
Je kan het model gratis downloaden via Hugging Face en het is beschikbaar in Google’s Vertex AI. Google noemt de modellen ‘open’, wat betekent dat ontwikkelaars ze mogen aanpassen en gebruiken zonder aparte licentie, al gelden er wel gebruiksvoorwaarden. Om de mogelijkheden tentoon te stellen, ontwikkelde Google een verhalengenerator die je zelf kan testen in je browser.