ľ¹Ï¸£ÀûÓ°ÊÓ

De AI Act stelt sinds 2-2-2025 bepaalde AI-systemen en -tools als verboden. Verboden AI-systemen kennen een onaanvaardbaar risico en kunnen bijvoorbeeld de vrije keuze van mensen beperken, discrimineren of manipuleren of in tegenspraak zijn met de fundamentele mensenrechten. De AI-verordening vervangt niet de AVG. Beide wetten gelden.

Het toepassen van verboden AI-systemen en -tools is dus niet toegestaan.

Welke AI-systemen en -tools zijn verboden (Art. 5)?

• 'social scoring' op basis van bepaald sociaal gedrag of persoonlijke kenmerken;
• 'predictive policing' om strafbare feiten bij mensen te beoordelen of te voorspellen;
• het creëren of (via scraping) uitbreiden van databanken voor gezichtsherkenning;
• manipuleren of misleiden van mensen;
• biometrische identificatie op afstand voor rechtshandhaving. Hier zijn wel enkele uitzonderingen van toepassing;
• biometrische categorisering, waarbij mensen op basis van biometrische gegevens in bepaalde gevoelige categorieën worden ingedeeld.
• emotieherkenning in de werkomgeving en het onderwijs (Art. 5.1.f.). In Recital 18 van de AI Act wordt uitgelegd dat de term emotieherkenning verwijst naar emoties als geluk, verdriet, woede, angst, verrassing, walging, verlegenheid, opwinding, schaamte, minachting, tevredenheid en amusement. Het omvat geen fysieke toestanden, zoals pijn of vermoeidheid. Louter de detectie van duidelijk zichtbare uitdrukkingen, gebaren of bewegingen is niet verboden, tenzij ze worden gebruikt om emoties te identificeren of af te leiden.

De Autoriteit Persoonsgegevens (AP) houdt toezicht op de naleving van de AI verordening en kan boetes uitdelen bij overtreding.

De regulering van zgn. hoog risico AI-systemen en -tools binnen de EU AI verordening (EU AI Act) gaat in op 2-8-2026.

De meeste bepalingen in de AI-verordening richten zich op AI-systemen die een ‘hoog risico’ vormen voor de gezondheid, veiligheid of grondrechten van personen. Deze AI-systemen en -tools moeten voldoen aan een reeks specifiek in de verordening vastgelegde eisen om hun betrouwbaarheid en veiligheid te waarborgen.

De AI-verordening van de EU classificeert AI-systemen als hoog risico AI als ze aan een of beide van de twee voorwaarden voldoen:

1. Het AI-systeem is bedoeld om te worden gebruikt als veiligheidsonderdeel van een risicoproduct (bijlage I van de AI Act) of als het risicoproduct zélf een AI-systeem is. Bijvoorbeeld als AI wordt toegepast in auto’s, medische hulpmiddelen en liften.
2. Het AI-systeem valt onder bijlage III van de AI Act, waaronder de onderwijssector. Voorbeeld van een categorie hoog risico AI-systemen en -tools zijn:
   1. AI-systemen of -tools die gebruikt worden voor recruitment of selectie van natuurlijke personen.
   2. AI-systemen of -tools die gebruikt worden voor het maken van beslissingen die de voorwaarden rond het werk beïnvloeden.

Meer informatie is ook te vinden op de (AP).

Of er daadwerkelijke sprake is van hoog risico AI behoeft een zorgvuldige assessment. Het kan zijn dat het AI-systeem of -tool of de toepassing bijvoorbeeld onder een uitzondering valt.

Niet onder de AI Act vallen:

• AI-systemen en -tools die uitsluitend worden gebruikt voor militaire of defensiedoeleinden
• AI-systemen en -tools die uitsluitend worden gebruikt voor wetenschappelijk onderzoek en wetenschappelijke ontwikkeling als enig doel
• AI-systemen en -tools puur voor gebruik voor niet-professionele doeleinden
• Open source AI-systemen en -tools die niet als zelfstandig AI-systeem functioneren of niet voor gereguleerde toepassingen worden ingezet

Informatie over laag en minimaal risico AI wordt medio 2025 toegevoegd op deze website