Fara-7B is ontworpen voor ontworpen voor “computertaken”, en kan daarom zelfstandig werken met een muis en toetsenbord.
Microsoft heeft zijn Fara-7B model aangekondigd in een blogpost. Dat is het eerste AI-agent gebaseerde small language model (SLM) van Microsoft. Het draait lokaal op pc’s en is zelfstandig genoeg om taken uit te voeren.
Klein maar fijn
Fara-7B kan volgens Microsoft ondanks zijn 7 miljard parameters toch “state of the art prestaties afleveren” vergeleken met andere modellen in deze klasse. Het model gaat ook de concurrentie aan met grotere agentsystemen die meer resources nodig hebben en gebruik maken van meerdere LLM’s. Microsoft beweert dat Fara-7B beter presteert dan GPT-4o van OpenAI als het aankomt op surfen op het web.
In drie video’s is te zien hoe Fara-7B werkt: het neemt websites visueel waar en heeft geen andere modellen nodig om de info op het scherm te analyseren. Je ziet hoe het model online producten koopt, informatie opzoekt en de afstand meet tussen twee locatie op een kaart. Dat gebeurt langzaam en de gebruiker moet zelf bepaalde stappen goedkeuren, zoals het ingeven van accountgegevens. Toch is het interessant om te zien waar AI-agenten naartoe evolueren.
Nog niet foutloos
Microsoft zegt duidelijk dat Fara-7B nog niet volledig betrouwbaar is. Tijdens tests maakte het model fouten bij ingewikkelde handelingen en volgde het soms instructies verkeerd op. Ook hallucinaties komen nog voor. Daarom mag het voorlopig alleen gebruikt worden in een “geïsoleerde sandbox”, waar Microsoft misbruik en dataverlies kan voorkomen. Het bedrijf benadrukt dat het model wel beveiligd is tegen schadelijke prompts.
Fara-7B verschijnt onder een MIT-licentie op Microsoft Foundry en Hugging Face en werkt voor nu enkel met Magnetic-UI, Microsofts experimentele AI-platform. Later komt een variant die geoptimaliseerd is voor Windows 11 Copilot+ pc’s, die speciale hardware hebben voor lokale AI-modellen.