Verboden AI-praktijken onder artikel 5 EU AI Act: wat mag sinds februari 2025 niet meer?

De aandacht rond de EU AI Act gaat vooral uit naar hoog-risicosystemen en de transparantieverplichtingen van artikel 50. Begrijpelijk, want daar liggen de deadlines van 2026 en 2027. Maar het scherpste deel van de verordening geldt al sinds 2 februari 2025: artikel 5, de lijst met verboden AI-praktijken. Wie zo'n praktijk op de markt brengt, in gebruik stelt of gebruikt, riskeert de hoogste boetecategorie van de hele verordening. En anders dan veel organisaties denken gaat dit niet alleen over opsporingsdiensten en overheden. Minstens twee van de acht verboden raken direct aan HR-tooling en marketingtechnologie die gewone bedrijven vandaag inkopen.

Voor wie geldt artikel 5?

De formulering van het verbod is breed: verboden is het in de handel brengen, het in gebruik stellen én het gebruiken van de genoemde AI-praktijken. Daarmee raakt artikel 5 niet alleen de partij die een systeem ontwikkelt of verkoopt, maar ook de organisatie die het alleen maar gebruikt. Je kunt je als afnemer dus niet verschuilen achter je leverancier. Koop je een tool in die onder een van de verboden valt en zet je die aan, dan overtreed je zelf de verordening.

Er is ook geen overgangsregeling voor systemen die al draaiden. De verboden gelden op grond van artikel 113, onder a, sinds 2 februari 2025, voor bestaande en nieuwe systemen. Het uitstel dat via de Digital Omnibus is geregeld gaat over de verplichtingen voor hoog-risicosystemen. Artikel 5 staat daar volledig los van en is nooit uitgesteld.

De acht verboden op een rij

Artikel 5, eerste lid, somt acht praktijken op. In de kern:

a. Manipulatie via subliminale of misleidende technieken. Verboden zijn systemen die met technieken buiten het bewustzijn van een persoon, of met doelbewust manipulatieve of misleidende technieken, het gedrag van mensen wezenlijk verstoren, zodanig dat zij een beslissing nemen die zij anders niet hadden genomen en die aanzienlijke schade veroorzaakt of waarschijnlijk veroorzaakt.

b. Uitbuiting van kwetsbaarheden. Hetzelfde verbod, maar dan gericht op systemen die kwetsbaarheden uitbuiten die samenhangen met leeftijd, handicap of een specifieke sociale of economische situatie. Denk aan AI-gedreven verkooppraktijken die zich richten op ouderen of mensen met schulden.

c. Social scoring. Het beoordelen of classificeren van personen over een langere periode op basis van sociaal gedrag of (afgeleide) persoonlijke kenmerken, wanneer die score leidt tot nadelige behandeling in een context die losstaat van waar de data vandaan komt, of tot een nadeel dat niet in verhouding staat tot het gedrag. Dit verbod geldt ook voor private partijen, niet alleen voor overheden.

d. Risicovoorspelling van strafbare feiten op basis van profilering. Systemen die uitsluitend op basis van profilering of persoonlijkheidskenmerken voorspellen of iemand een strafbaar feit zal plegen. Ondersteuning van een menselijke beoordeling die al op objectieve, verifieerbare feiten rust, valt buiten het verbod.

e. Ongericht scrapen van gezichtsbeelden. Het opbouwen of uitbreiden van gezichtsherkenningsdatabases door ongericht gezichtsbeelden van internet of camerabeelden te verzamelen.

f. Emotieherkenning op de werkplek en in het onderwijs. Systemen die emoties van personen afleiden op de werkplek of in onderwijsinstellingen zijn verboden, met een smalle uitzondering voor medische en veiligheidsdoeleinden. Dit is voor gewone bedrijven het meest relevante verbod, daarover hieronder meer.

g. Biometrische categorisering op gevoelige kenmerken. Systemen die personen op basis van biometrische gegevens indelen naar ras, politieke opvattingen, vakbondslidmaatschap, religieuze of levensbeschouwelijke overtuiging, seksleven of seksuele gerichtheid. Het labelen of filteren van rechtmatig verkregen biometrische datasets valt buiten het verbod, net als bepaalde toepassingen in de opsporing.

h. Realtime biometrische identificatie op afstand in de openbare ruimte voor opsporing. Dit verbod richt zich op politie en justitie en kent nauw omschreven uitzonderingen, zoals het zoeken naar slachtoffers van ontvoering of mensenhandel en de dreiging van een terroristische aanslag, telkens met voorafgaande toestemming van een rechter of onafhankelijke autoriteit.

Het grijze gebied: emotieherkenning en manipulatie

Bij de organisaties die wij toetsen komen twee verboden in de praktijk het dichtst bij.

Het eerste is emotieherkenning op de werkplek. Steeds meer contactcenter- en HR-software bevat functies die stemming, stress of betrokkenheid van medewerkers in beeld brengen. Sentiment-analyse die zich richt op de klant in een gesprek valt niet onder dit verbod, want de klant bevindt zich niet op jouw werkplek. Maar zodra dezelfde tooling ook de emoties van de eigen medewerker analyseert, bijvoorbeeld in een dashboard dat per agent stress of frustratie toont, zit je in het verboden gebied. De uitzondering voor medische en veiligheidsdoeleinden is smal en dekt geen prestatie- of verzuimmanagement. Wij adviseren om bij elke tool met een emotie- of sentimentfunctie expliciet vast te stellen op wie die functie gericht is, en de functie uit te zetten of contractueel uit te sluiten als medewerkers in beeld komen.

Het tweede is manipulatie. De drempel van artikel 5, eerste lid, onder a en b, is bewust hoog: er moet sprake zijn van een wezenlijke verstoring van gedrag én aanzienlijke schade. Gewone personalisatie, aanbevelingen en A/B-testen halen die drempel niet snel. Het wordt anders wanneer AI wordt ingezet om beslisgedrag te sturen bij groepen die zich daar slecht tegen kunnen verweren, zoals kinderen in games met AI-gedreven aankoopprikkels of financieel kwetsbare consumenten bij kredietaanbieders. De richtsnoeren die de Europese Commissie in februari 2025 over de verboden praktijken heeft gepubliceerd geven hiervoor uitwerking en voorbeelden. Ze zijn niet bindend, maar wel de beste beschikbare indicatie van hoe toezichthouders ernaar kijken.

Handhaving en boetes

Op overtreding van artikel 5 staat de hoogste boetecategorie van de verordening. Artikel 99, derde lid, noemt een maximum van 35 miljoen euro of 7% van de wereldwijde jaaromzet, waarbij het hoogste bedrag geldt. Voor mkb-bedrijven en startups geldt op grond van artikel 99, zesde lid, juist het laagste van beide bedragen. De boetebevoegdheid is sinds 2 augustus 2025 van kracht en ligt bij de nationale markttoezichtautoriteiten.

Daar komt bij dat artikel 5, achtste lid, uitdrukkelijk bepaalt dat verboden uit ander Unierecht gewoon blijven gelden. Emotieherkenning van medewerkers of biometrische categorisering raakt vrijwel altijd ook de AVG, en privacytoezichthouders hadden hun bevoegdheden al. Wachten tot de AI Act-handhaving op stoom komt is dus geen veilige strategie.

Zo toets je je eigen organisatie

De toets op artikel 5 hoort aan het begin van elk AI Act-traject, vóór de risicoclassificatie. Een werkbare aanpak in vier stappen. Eerst inventariseer je alle AI-systemen, inclusief ingekochte tooling en functies die leveranciers stilletjes hebben toegevoegd. Daarna screen je elk systeem tegen de acht verboden, met bijzondere aandacht voor emotie- en sentimentfuncties, scoring van personen en doelgroepgerichte beïnvloeding. Vervolgens leg je per systeem de conclusie vast, ook wanneer die conclusie "niet van toepassing" is, want juist die vastlegging laat bij een vraag van een toezichthouder of auditor zien dat je de toets hebt gedaan. Tot slot borg je de screening structureel: in leveranciersbeoordelingen, in het inkoopproces en, voor organisaties met een ISO 42001-managementsysteem, als vast onderdeel van de AI-inventarisatie en de interne audit.

Wil je snel weten waar jouw organisatie staat met de EU AI Act, inclusief de verboden praktijken? Doe dan de zelfassessment op /ai-act-check, of neem contact met ons op voor een gesprek over een volledige AI Act-scan.

Bron: dit artikel is gebaseerd op Verordening (EU) 2024/1689 (de AI-verordening), met name artikel 5, artikel 99, leden 3 en 6, en artikel 113, onder a. De volledige wettekst is te raadplegen via https://eur-lex.europa.eu/eli/reg/2024/1689/oj