Menselijk toezicht op AI: human-in-the-loop effectief inrichten onder ISO 42001 en de EU AI Act

Vraag een organisatie hoe zij AI-risico's beheerst en het eerste antwoord is bijna altijd hetzelfde: er kijkt een mens naar de uitkomsten. Human-in-the-loop is de meest genoemde beheersmaatregel in AI-risicoanalyses die wij beoordelen. Het is ook de maatregel die in de praktijk het vaakst niet werkt. Een medewerker die honderden AI-voorstellen per dag moet goedkeuren, keurt na een week alles goed. Een reviewer zonder mandaat of zonder inzicht in hoe het model tot een uitkomst komt, is geen toezicht maar een formaliteit. Zowel ISO 42001 als de EU AI Act stellen eisen aan menselijk toezicht, en beide verwachten meer dan een mens die ergens tussen zit. In dit artikel leggen we uit wat de eisen inhouden, waarom toezicht in de praktijk faalt, en hoe je het zo inricht dat het werkt en aantoonbaar is voor een auditor.

## Wat ISO 42001 en de EU AI Act vragen

ISO 42001 benadert menselijk toezicht vanuit het managementsysteem. De norm vraagt dat je per AI-systeem bepaalt welke mate van menselijke betrokkenheid passend is, dat je die keuze onderbouwt vanuit de risicobeoordeling en impactassessment, en dat je de bijbehorende rollen, verantwoordelijkheden en competenties belegt. Toezicht is daarmee geen losse maatregel maar een ontwerpbeslissing die je moet kunnen verantwoorden: waarom is bij dit systeem een controle vooraf nodig, en waarom volstaat bij dat systeem monitoring achteraf?

De EU AI Act is concreter voor hoog-risico AI-systemen. Artikel 14 van de verordening eist dat deze systemen zo worden ontworpen dat natuurlijke personen er effectief toezicht op kunnen houden. De toezichthoudende persoon moet de werking en beperkingen van het systeem kunnen begrijpen, alert blijven op de neiging om automatisch op de output te vertrouwen (automation bias), de output correct kunnen interpreteren, kunnen besluiten het systeem niet te gebruiken of de uitkomst terzijde te schuiven, en kunnen ingrijpen of het systeem stopzetten. Voor gebruiksverantwoordelijken betekent dit dat toezicht moet worden belegd bij personen met de juiste competentie, opleiding en bevoegdheid. Dat is een wezenlijk andere lat dan "iemand kijkt ernaar".

## Drie vormen van menselijke betrokkenheid

In de praktijk helpt het om drie vormen te onderscheiden. Bij human-in-the-loop beoordeelt een mens elke individuele uitkomst voordat die effect krijgt: de AI stelt voor, de mens beslist. Denk aan een kredietbeoordelaar die elk geautomatiseerd advies bevestigt of afwijst. Bij human-on-the-loop draait het systeem zelfstandig, maar monitort een mens het gedrag en kan die ingrijpen: denk aan fraudedetectie die transacties blokkeert, met een analist die patronen en uitschieters bewaakt. Bij human-in-command stuurt de mens op systeemniveau: wanneer wordt het systeem ingezet, binnen welke grenzen, en wanneer wordt het uitgeschakeld?

De keuze tussen deze vormen is een risicoafweging. Beoordeling per geval is het zwaarste regime en past bij besluiten met grote impact op individuen. Monitoring past bij hoge volumes en lagere impact per geval. Belangrijk is dat je de keuze expliciet maakt en vastlegt. Wat wij in audits regelmatig zien: de risicoanalyse claimt human-in-the-loop, terwijl de praktijk allang naar on-the-loop is verschoven omdat het volume beoordeling per geval onmogelijk maakt. Dan klopt je beheersing op papier niet met de werkelijkheid, en dat is precies waar een auditor doorheen prikt.

## Waarom toezicht in de praktijk faalt

Het grootste risico voor menselijk toezicht is niet onwil maar gewenning. Automation bias is goed gedocumenteerd: naarmate een systeem vaker gelijk heeft, gaan mensen de uitkomsten steeds minder kritisch bekijken. Als een model in 98 van de 100 gevallen een goed voorstel doet, is het menselijk om alle 100 goed te keuren. De reviewer wordt een doorgeefluik, en het toezicht bestaat alleen nog administratief.

Daarnaast zien wij vier terugkerende ontwerpfouten. Volume: de hoeveelheid te beoordelen uitkomsten is niet te behappen binnen de beschikbare tijd, waardoor beoordelen afvinken wordt. Informatie: de reviewer ziet alleen de uitkomst, zonder context, betrouwbaarheidsindicatie of onderbouwing, en kan dus niet inhoudelijk beoordelen. Mandaat: de reviewer mag formeel afwijken, maar elke afwijking moet worden uitgelegd aan een leidinggevende, terwijl meegaan met het systeem geen vragen oproept. De prikkel werkt dan de verkeerde kant op. Competentie: het toezicht is belegd bij iemand die het domein of het systeem onvoldoende kent om een afwijkende uitkomst te herkennen.

## Effectief toezicht ontwerpen

Toezicht dat werkt, is ontworpen rond de vraag: wat heeft deze persoon nodig om een AI-uitkomst inhoudelijk te kunnen tegenspreken? Daar horen minimaal vijf ingrediënten bij.

Ten eerste bevoegdheid: de toezichthouder moet zonder drempel kunnen afwijken, escaleren of het systeem stopzetten, en die bevoegdheid moet formeel zijn belegd. Ten tweede informatie: toon naast de uitkomst ook de relevante invoer, een indicatie van onzekerheid en waar mogelijk de belangrijkste factoren achter de uitkomst. Ten derde tijd en volume: dimensioneer het aantal beoordelingen per persoon op werkelijke beoordelingstijd, en overweeg risicogebaseerde selectie waarbij alleen uitkomsten boven een risicodrempel per geval worden beoordeeld. Ten vierde training: leer reviewers wat het systeem wel en niet kan, wat bekende zwaktes zijn en hoe automation bias werkt. Dit sluit direct aan op de AI-geletterdheidsverplichting uit artikel 4 van de EU AI Act. Ten vijfde meetbaarheid: meet hoe vaak reviewers afwijken van het systeem. Een afwijkingspercentage van nul is zelden een teken dat het model perfect is; het is meestal een teken dat het toezicht niet functioneert.

## Wat de auditor toetst

Bij een ISO 42001-audit is de vraag niet of je menselijk toezicht hebt beloofd, maar of het bestaat en werkt. Concreet kijken wij naar de onderbouwing van de gekozen toezichtsvorm in de risicobeoordeling, de formele belegging van rollen en bevoegdheden, bewijs dat reviewers zijn getraind, en registraties waaruit blijkt dat het toezicht daadwerkelijk plaatsvindt: logging van beoordelingen, vastgelegde afwijkingen en de opvolging daarvan. Interventies moeten herleidbaar zijn: wie heeft wanneer welke uitkomst aangepast of tegengehouden, en wat is daarmee gebeurd? Een organisatie die kan laten zien dat afwijkingen worden geregistreerd, geanalyseerd en teruggekoppeld naar de modeleigenaar, toont niet alleen toezicht aan maar ook de verbetercyclus die ISO 42001 als managementsysteemnorm verwacht.

Menselijk toezicht is geen doekje voor het bloeden dat je over elk AI-risico kunt leggen. Goed ingericht is het een van de sterkste beheersmaatregelen die er is; slecht ingericht is het schijnzekerheid die in een audit door de mand valt. Het verschil zit in ontwerp, mandaat en meetbaarheid.

Secure Audit helpt organisaties bij het inrichten van AI-governance onder ISO 42001, van risicobeoordeling en het ontwerpen van beheersmaatregelen tot certificeringsvoorbereiding. De certificeringsaudit zelf wordt uitgevoerd door een geaccrediteerde certificerende instelling. Neem contact op voor een vrijblijvend gesprek.