Verantwoord gebruik van AI-systemen: wat Annex A.9 van ISO 42001 vraagt

Veel organisaties die met ISO 42001 aan de slag gaan, ontwikkelen zelf geen AI. Ze kopen functionaliteit in, zetten bestaande modellen in of geven medewerkers toegang tot generatieve tools. Voor die organisaties is Annex A.9 een van de belangrijkste onderdelen van de norm. Het domein gaat over het gebruik van AI-systemen: wie mag ermee werken, waarvoor, binnen welke grenzen, en hoe je borgt dat de praktijk binnen die grenzen blijft. Dit artikel loopt de drie controls van A.9 langs, met de afwijkingen die wij als auditors het vaakst tegenkomen en de documenten die een certificerende instelling wil zien.

Waar Annex A.9 over gaat

Annex A van ISO 42001 is ingedeeld in domeinen, van beleid en interne organisatie tot data en leveranciersrelaties. Het domein rond gebruik telt drie controls. A.9.2 vraagt om gedefinieerde en gedocumenteerde processen voor het verantwoord gebruik van AI-systemen. A.9.3 vraagt om doelstellingen die dat verantwoorde gebruik richting geven. A.9.4 vraagt om de borging dat elk AI-systeem daadwerkelijk wordt gebruikt voor het doel waarvoor het bedoeld is, in lijn met de bijbehorende documentatie.

Net als bij de andere Annex A-controls bepaal je via de risicobeoordeling en de Statement of Applicability of en hoe deze controls van toepassing zijn. In de praktijk zijn ze dat vrijwel altijd. Een organisatie zonder AI-gebruik heeft geen AIMS nodig, en zodra er gebruik is, is de vraag naar grenzen en toezicht onvermijdelijk.

A.9.2: processen voor verantwoord gebruik

De kern van A.9.2 is dat gebruik geen vrije ruimte is. Voor elk AI-systeem binnen de scope horen de grenzen vast te liggen: welk type beslissingen het systeem mag ondersteunen, waar de automatisering ophoudt en een mens het overneemt, en wat er gebeurt bij twijfelgevallen.

Menselijk toezicht is daarbij het zichtbaarste element. Een werkbare aanpak koppelt de vorm van toezicht aan het risico van de beslissing. Beslissingen met grote gevolgen krijgen een menselijke beoordeling vooraf. Bij middelgrote risico's markeert het systeem gevallen voor controle achteraf. Bij laag risico volstaat een periodieke steekproef op de uitkomsten. Die indeling moet ergens op gebaseerd zijn, en dat is precies waar de AI-risicobeoordeling uit hoofdstuk 6 het gebruik raakt.

Toezicht op papier is niet genoeg. Auditors verwachten dat grenzen ook technisch zijn afgedwongen waar dat kan: drempelwaarden waaronder een AI-uitkomst automatisch naar een mens escaleert, invoervalidatie die verzoeken buiten het gevalideerde toepassingsgebied herkent, en toegangsbeheer dat voorkomt dat onbevoegden het systeem gebruiken. Organisatorische maatregelen vullen dat aan: training voordat iemand toegang krijgt, een gebruiksrichtlijn die uitlegt wat wel en niet mag, en periodieke controles op gebruikspatronen om misbruik of oneigenlijke toepassing te signaleren.

A.9.3: doelstellingen die je kunt meten

A.9.3 vraagt om doelstellingen die het verantwoorde gebruik sturen. Dit is een control waar veel organisaties zich op verkijken. "Wij gebruiken AI verantwoord" is een intentie, geen doelstelling. Een auditor zoekt naar iets toetsbaars.

Bruikbare voorbeelden uit de praktijk: alle gebruikers ronden een training over verantwoord gebruik af voordat ze toegang krijgen. Een vastgesteld percentage van de hoog-risicobeslissingen krijgt een menselijke review, en dat percentage wordt gehaald. Gebruikscontroles op de belangrijkste systemen vinden elk kwartaal plaats. Meldingen van oneigenlijk gebruik worden binnen een afgesproken termijn onderzocht en afgehandeld.

De doelstellingen horen aan te sluiten op het AI-beleid, gecommuniceerd te zijn aan de mensen die ermee moeten werken, en gevolgd te worden met cijfers die terugkomen in de managementreview. Een doelstelling die nergens wordt gemeten, telt bij een audit niet mee. Doelstellingen die alleen over adoptie of efficiency gaan, dekken de control evenmin: het gaat om de verantwoorde kant van het gebruik.

A.9.4: gebruik volgens het beoogde doel

A.9.4 sluit de cirkel. Waar A.9.2 de processen regelt en A.9.3 de richting, gaat A.9.4 over de vraag of elk systeem in de praktijk wordt ingezet waarvoor het bedoeld is.

Dat begint met een intended use statement per AI-systeem. Daarin staat welk probleem het systeem oplost of welke beslissing het ondersteunt, wie de beoogde gebruikers zijn, in welke context het draait, binnen welke omstandigheden het gevalideerd is, welke beperkingen bekend zijn en in welke situaties het systeem juist niet gebruikt mag worden. Dat laatste onderdeel wordt het vaakst vergeten en is voor een auditor juist informatief: een organisatie die weet waar haar systeem onbetrouwbaar wordt, heeft over het systeem nagedacht.

Vervolgens moet de organisatie kunnen signaleren wanneer gebruik buiten dat kader treedt. Monitoring van gebruikspatronen is daarvoor het gangbare middel. En als een systeem een nieuwe toepassing krijgt of in een andere context wordt ingezet, hoort de intended use-documentatie mee te veranderen, met een nieuwe beoordeling van de risico's.

Wie hier een parallel ziet met de EU AI Act, ziet het goed. Artikel 26 van Verordening (EU) 2024/1689 verplicht gebruiksverantwoordelijken van hoog-risicosystemen om systemen volgens de gebruiksaanwijzing in te zetten en menselijk toezicht te beleggen bij mensen met de juiste competentie. A.9 vraagt vergelijkbare dingen, breder en zonder wettelijke status, voor alle systemen binnen je AIMS. Wie A.9 goed inricht, bouwt daarmee aan de basis voor die wettelijke verplichtingen.

De afwijkingen die auditors het vaakst zien

Een aantal patronen komt bij audits op dit domein steeds terug. Gebruikers werken met AI-systemen zonder dat er richtlijnen over het beoogde gebruik bestaan. Menselijk toezicht staat in het beleid maar wordt nergens uitgevoerd, en niemand kan reviewverslagen of steekproefresultaten laten zien. Technische afdwinging ontbreekt volledig, waardoor systemen zonder enige belemmering buiten hun gevalideerde toepassingsgebied gebruikt kunnen worden. Doelstellingen zijn zo algemeen geformuleerd dat er niets aan te meten valt, of ze bestaan wel maar worden niet gevolgd. En intended use-documentatie is er alleen voor de systemen die de leverancier zelf van een model card heeft voorzien, niet voor de systemen die de organisatie zelf heeft samengesteld of geconfigureerd.

De rode draad: het verschil tussen opschrijven en doen. Dit domein is bij uitstek een plek waar een auditor de werking toetst, niet de opzet. Interviewvragen gaan dan over concrete gevallen: laat een beslissing zien die is geëscaleerd, laat de laatste gebruikscontrole zien, laat zien wie er vorige maand toegang heeft gekregen en of de training toen al was afgerond.

Welke documenten een auditor verwacht

Voor een certificeringsaudit of interne audit op dit domein is een herkenbare set documenten nodig: procedures voor verantwoord gebruik, intended use statements met grensdefinities per AI-systeem, vastlegging van uitgevoerd menselijk toezicht, configuraties van de technische maatregelen die grenzen afdwingen, de doelstellingen met bijbehorende metingen en voortgangsrapportages, trainingsregistraties en de verslagen van gebruikscontroles. Wie deze stukken op orde heeft en kan laten zien dat ze actueel zijn, heeft dit domein in de kern staan.

In onze interne-auditmodule zit deze guidance per control ingebouwd, met interviewvragen, veelvoorkomende afwijkingen en verwachte documenten, zodat je een interne audit op A.9 kunt draaien voordat de certificerende instelling langskomt. Wil je weten waar jullie staan met ISO 42001? Neem gerust contact op voor een vrijblijvend gesprek.