Sinds zondag zijn de eerste regels van de Europese AI Act van kracht.
De Europese AI Act verbiedt een reeks risicovolle AI-toepassingen en legt boetes op tot 35 miljoen euro of 7 procent van de wereldwijde omzet bij overtredingen. Er komt een speciaal AI-kantoor binnen de Europese Commissie, dat dient als een adviesraad voor de lidstaten.
Welke regels?
De AI Act ging officieel vorig jaar op 1 augustus van kracht, maar de regels gaan in verschillende fasen in.
Artikel 4: AI-geletterdheid
AI-leveranciers moeten zorgen voor voldoende AI-kennis bij personeel en gebruikers. Dit omvat training en opleiding afgestemd op de technische complexiteit van AI-systemen en de doelgroepen waarop ze van toepassing zijn.
Artikel 5: Verboden AI-praktijken
Verschillende AI-praktijken worden verboden, zoals systemen die lijken op het sociale kredietsysteem van China. Daar wordt de kredietwaardigheid van mensen aangepast op basis van hun gedrag en reputatie. Een overzicht:
- Manipulatie en subliminale beïnvloeding: AI die onbewust gedrag manipuleert om mensen belangrijke keuzes te laten maken die hen schade kunnen berokkenen, is niet toegestaan.
- Uitbuiting van kwetsbare groepen: AI-systemen mogen geen gebruik maken van kwetsbaarheden zoals leeftijd of beperkingen om gedrag te beïnvloeden.
- Sociale kredietsystemen: AI die mensen over langere tijd beoordeelt op basis van persoonlijkheidskenmerken en gedrag, wordt verboden.
- Criminaliteitsvoorspelling: AI mag niet enkel op basis van persoonlijkheidskenmerken voorspellen of iemand een misdaad zal begaan.
- Biometrische surveillance: Het gebruik van AI voor gezichtsherkenning op openbare locaties door wetshandhavers is streng gereguleerd en mag alleen in uitzonderlijke gevallen.
Deze wet geldt voor alle bedrijven die actief zijn binnen de EU, inclusief niet-Europese technologiebedrijven. Veel grote spelers, waaronder Google, OpenAI en Microsoft, hebben gezegd zich te zullen houden aan de regels van de AI Act. Andere organisaties en bedrijven, zoals Meta en Apple, niet. Zij vinden dat de wet innovatie ondermijnt, maar ze zijn ook gewoon verplicht om de regels na te leven.