Het gemeentebestuur van Amsterdam zet een testproject met Microsoft Copilot on hold wegens ‘hoge privacyrisico’s’. Een waarschuwing voor alle organisaties die Copilot gebruiken?
De gemeente Amsterdam neemt een opvallend besluit: een testproject met Microsoft Copilot wordt tijdelijk stopgezet. Dat besluit komt er na een negatieve analyse over de databeveiliging van Microsoft Copilot, in december gepubliceerd door de Strategisch Leveranciersmanagement-divisie (SLM) van het ministerie van Justitie. Het rapport identificeerde ‘hoge risico’s’ rond privacy en databeveiliging.
SLM legt de oorzaak van de risico’s door onvoldoende transparantie van Microsoft over verwerkingen van persoonsgegevens. Het gebruik van Copilot wordt niet per se afgeraden, maar SLM spoort overheidsorganisaties aan om extra maatregelen te nemen, zoals het trainen van personeel om met Copilot te werken.
Kosten en baten
Het gemeentebestuur van Amsterdam kiest ervoor de pilot tijdelijk stop te zetten tot Microsoft de risico’s oplost. In Amsterdam is men vaker op zijn hoede voor technologie, want eerder legde het gemeentebestuur medewerkers een verbod op Telegram op. “De geïdentificeerde risico’s maken dat deze technologie op dit moment niet veilig en juridisch verantwoord binnen onze organisatie kan worden toegepast”, zegt het gemeentebestuur via de Nederlandse Vereniging van Gemeentebesturen.
Diezelfde vereniging moedigt het gebruik van Copilot in een overheidscontext net wel aan. Organisaties moeten de risico’s afwegen tegen de voordelen die Copilot hen kan bieden, klinkt het. De Vlaamse overheid sloot recent nog een contract voor tienduizend licenties af met Microsoft. De meningen over Copilot, maar ook andere generatieve AI-tools, zijn dus verdeeld.
Copilot: hulp of last?
Ben jij na het lezen van dit artikel van plan om je Copilot-abonnement op te zeggen? Dat is niet nodig, maar wees je bewust dat er risico’s bestaan. Gebruik je Copilot binnen een betalende formule, dan biedt Microsoft meer bescherming dan wanneer je AI-tools gratis zou gebruiken. Copilot respecteert de machtigingsmodellen binnen Microsoft 365 en gebruikt encryptie en monitoring om onbedoelde blootstelling van gegevens te voorkomen.
lees ook
Amsterdam stopt met Copilot wegens ‘hoge privacyrisico’s’: moet jouw bedrijf dat ook doen?
Microsoft is binnen de EU gebonden aan data- en privacywetgeving zoals de GDPR en de Data Boundary Act. Dat neemt niet alle zorgen rond opslag en verwerking van persoonlijke gegevens weg. Prompt-injectie en misbruik van AI-gegenereerde content vormen eveneens uitdagingen, net als de integratie met externe applicaties en plug-ins.
Een bewuste en gecontroleerde implementatie is cruciaal om de risico’s te minimaliseren. Microsoft wil Copilot onlosmakelijk verbinden met 365-apps, waardoor de toegang tot Copilot ontzeggen op termijn onbegonnen werk is. Stel duidelijke afspraken en grenzen voor wat wel en niet kan en voorzie indien nodig training om werknemers op verantwoorde wijze met AI-tools te leren omgaan.