Microsoft kondigt aan dat het vanaf begin 2025 mogelijk wordt om de AI-assistent Copilot lokaal op Windows-pc’s te draaien.
Tijdens CES 2025 in Las Vegas maakte Pavan Davuluri, corporate vice president van Windows en Surface, bekend dat de nieuwe Phi Silica Small Language Model (SLM) binnenkort wordt geïntegreerd in Windows.
Geen cloud meer nodig
Phi Silica, dat afgelopen mei is aangekondigd, is een lokaal alternatief voor de krachtige Large Language Models (LLM) die momenteel via de cloud werken. Hoewel LLM’s nauwkeuriger en sneller zijn, vereisen ze dure abonnementen en zijn ze afhankelijk van een internetverbinding. SLM’s zoals Phi Silica bieden daarentegen een lokaal werkende oplossing, die privacy beter waarborgt en gevoelige informatie in de cloud vermijdt.
Het Phi Silica-model, met 3,3 miljard parameters, is specifiek ontworpen voor een balans tussen snelheid en nauwkeurigheid. Het vereist echter pc’s met Neural Processing Units (NPU’s), die lokale AI-mogelijkheden ondersteunen. Phi Silica vormt de basis voor het lokaal draaien van Copilot op Windows-pc’s.
Microsoft benadrukt dat functies zoals Windows Recall en andere AI-tools in de toekomst op deze technologie zullen bouwen. Misschien volgen andere bedrijven Microsoft om AI toegankelijker te maken en niet meer afhankelijk te maken van de cloud.